Ajax и загрузка файла клиенту
 

ajax'ом отправляется запрос, на сервере по запросу происходит загрузка файла с другого сервера (фтп), и загруженные оттуда данные возвращаются в браузер, прямой ссылки на загружаемый файл нет

как открыть окно сохранения файла после их получения?

Послать специальный header вот первая ссылка из гугла решает твои проблемы http://habrahabr.ru/post/151795/

все нужные хидеры формируются на стороне сервера, (серверный обработчик взят из старой рабочей версии, но там обмен данными был сделан через post и формы), а как изменить хидер на загруженной странице при обработке полученного через аякс ответа?
в данный момент ответ сервера в виде octet-stream загруженного файла