Как раз недавно юзал этот календарь, везде всё нормально с кординатами, дело в другом.
Там есть такая функция "lcs", а в ней есть пару строчек:
getObj('fc').style.left=Left(ielem);
getObj('fc').style.top=Top(ielem)+ielem.offsetHeight;
Как видно скрипт старый и разработчик не грамотный, при нормальном доктайпе это не работает.
Должно быть хотя бы так:
getObj('fc').style.left=Left(ielem)+'px';
getObj('fc').style.top=Top(ielem)+ielem.offsetHeight+'px';
Хотя лучше всего взять и переписать календарь под себя, честно слово, код ужасный.
П.С. Вот ещё статейка для общего понимания:
Координаты элемента на странице