Во первых пользуйтесь консолью (инструменты разработчика в браузере, там и за html разметкой следить и за network и js) - проще вам будет понимать что творится.
Во вторых, jq диалог в процессе работы "вырезает" ту разметку к которой он был применен. например у нас было:
<html>
<body>
<div class="page">
<span class="dialog">some text</span>
</div>
</body>
</html>
Если применить $('.dialog').dialog() - спан вырежется из дива с классом page и после закрытия диалога там снова НЕ окажется. Возможно поэтому у вас и не открывается. Я открывал 2 диалога прям одновременно - все работает.
Для таких случаев - $('.dialog').clone().dialog() .
Дергаться съезжать не должно - у вас какие то проблемы в верстке, либо версия jq ui оч старая. Ибо диалог открывется в диве с Position : fixed