В IE работает само закругление, но там точно не работает 2 функции этого плагина - сглаживание и дирректива "keep", которая должна оставлять закруглённый бордер.
Короче, я пришёл к выводу, что есть только один по настоящему кроссбраузерный метод:
http://www.schillmania.com/projects/dialog/