Догадался сам
$(window).scroll(function() {
topvar = $("#popup").css('top');
myvar = getPageScroll();
if ((myvar <= 800) && (topvar == '0px')){
$("#popup").animate({top: -100}, 200);
}
if ((myvar >= 900) && (topvar == '-100px')){
$("#popup").animate({top: 0}, 200);
}
});
Теперь всё работает так как должно. И $("#popup").stop(); даже не нужен