[Янковиц]

Ну вот, кажется вот так:

(function() {
    tinymce.PluginManager.add('button', function( editor, url ) {
        editor.addButton( 'button', {
            text: 'Кнопка',
			classes: 'add-class', //можно добавить классы
			type: 'button',
            icon: false,
            onclick: function(e) {
                jQuery.ajax({
					url: 'http://site.ru/tooltip.php',
					success: function(data){
						jQuery('.mce-window-body').html(data);
					}
				});
            }
        });
    });
})();