Все, решил проблему сравнением высоты фрэйма с высотой содержимого фрэйма, если последнее больше значит будет прокрутка, иначе влезет (:
if (document.getElementById("main_table").offsetHeight > document.body.clientHeight){
elem.style.left = parseInt(elem.style.left) + 9 + 'px'
}