Возможно как-то так:
$("#photo_preview_down").click(function(){
$inner = $(".photo_preview_inner");
var top = $inner.position().top; // смещение вверх
var height = $inner.height(); // высота блока с фотками
var h0 = 436; // высота контейнера (для примера тут значением а вообще вычислять где то заранее глобально)
if (height + top > h0) {
$inner.animate({"top": "-=109px"}, "normal");
}
});