Самый быстрый, наверное, это иметь двумерный массив всей картинки. Значение каждого элемента 1 или 0. 1 линия тут есть, 0 нет. По клику просто берем значеие в соответствие с координатами.

Если объектов/линий может быть много и пересекаются. Надо такой массив на каждую "линию".

Если размер картинки может быть большой и жалко памяти - надо придумать как свести в памяти только к хранению 1.



А по цвету в вашей задаче не вариант?

Полагается что "аналитика кривой" неизвестна.

Разбить кривую на отрезки, искать минимальное расстояние от точки до отрезка и сравнивать его с какой-то дельтой.

Оптимизация - сортируем точки по Х и с помощью lower_bound находим точку A - ближайшую к мыше. Находим расстоянме до отрезка с точкой A. Дальше просматриваем сортированный массив вперед и назад от точки A пока расстояние по X не превысит найденное.

Можно учесть отняв половину ширины от найденного расстояния. Как правило юзверь не попадает точно даже в достаточно жирную линию, нужно вводить какой-то запас ("апертуру"). А мудоить с экраном/пикселями - дело тухлое