можно воспользоваться тем, что это прямоугольник.
пусть длины сторон равны а и b, (а <= b) - их вычислим из координат по теореме Пифагора.
находим середины сторон (как средн. арифм. координат концов)
рассматриваем прямую А, проходящую через середины коротких сторон, и прямую Б, проходящую через середины длинных.
курсор внутри прямоугольника, если расстояние от него до прямой А не больше а/2, в то время как расстояние до прямой Б не больше b/2
прямая проходящая через две точки
расстояние от точки до прямой