| Сообщение от maxg5 | 
	| Применил Ваш код к своему сайту. | 
	
Один в один не надо, это пример, а у вас должны быть все обработчики - ошибок запроса и прочее, к тому же не мешало бы на время запроса делать недоступной кнопку submit.
	
	| Сообщение от maxg5 | 
	| при нажатии на кнопку Отправить окно закрывается и все. | 
	
Ну все правильно, в success что делается? А вот что:
$('pre').text(d); //ответ помещаем в ...
f.closest('.fancybox-skin').find('a').trigger('click') //закрываем окно
Кстати, можно закрыть и так $.fancybox.close(), никаких других открытий одновременно у вас не видно.
А судя по ответу, сервер не дурак, что хорошо, проверяет данные пришедшие, и если обязательно поле пустое, то возвращает сообщение. Вот только плохо, что это обычный текст, так что не понять, то-ли были ошибки приема, то-ли все Ок. Для диалога удобнее json-формат, вот тогда закрывать окно нужно только если север не вернул ошибок.