Суть в том что прозрачный фон генерируется динамически при открытия окна, т.е. окно открылось появился:
<div class="ui-widget-overlay ui-front"></div>
Соответственно конструкция:
$(".ui-widget-overlay").click(function () {
alert('ok');
});
Не работает.