И так есть стандартный фильтр отбора объектов по параметрам. Нужно добавить параметр polygon. и выводить объект если он попадает в polygon.
Данный фильтр реализован на сайтах
ads-api.ru/
domofond.ru
Там же можно подсмотреть готовые скрипты.
По ссылке
ru.stackoverflow.com/ques...
Можно найти эти скрипты в родоначальном состоянии.
и в моем php коде должен быть код проверяющий попадание коррдинат объекта в polygon.
Обьекты попавшие в полигон ищутся как персечение точечного слоя (маркера) и слоя полигона. То есть твоя задача: нарисовать полигон, взять пересечение со слоем маркера. Реализация скрыта в апи использумых тобой фреймворков для визуализации карты