Пример:
$(function() {
$("#goodDialog").dialog({
position: ['left', 50],
width: 200,
height: 150
});
$("#badDialog").dialog({
position: ['right', 50],
width: 200,
height: 650
});
});
<body style="height: 2000px">
<p>Высокое окно игнорирует значение top.</p>
<div id="goodDialog" title="Хорошее окно"></div>
<div id="badDialog" title="Плохое окно"></div>
</body>