Нет красивого кроссбраузерного варианта для этого. Вообще нужно не отказываться от кнопок вперед/назад, а строить приложение с учетом их функциональности (всетаки это браузер).
ExtJS поддерживает
routes вот и юзайте их.
Типа такого:
#users/edit/:id - показывает модальное окно редактирования юзера
#users - показывает список пользователей
При попытке уйти с модального окна если форма dirty показывать предупреждение..