Во-первых, почитай документацию PHP - установка заголовков должна идти ДО! вывода контента. Во вторых создай на серве текстовый файл, засунь в него данные и уже его отправляй в ответе с правильным mime-type, тогда браузер предложит его сохранить.

почитайте внимательно справку PHP
Первый вариант-правильный, второй-нет
ну, а остлальное уже сказали

Спасибо, вопрос решил! Убрал из формы enctype="text/plain" :)
Вариант с Content-Disposition: attachment; меня полностью устраивает, проверил в IE, FF, Google Chrome и в Opera. Не работает только в Opera

Поищи по форуму, кто-то где-то писал решение.

Kolyaj,
Спасибо вам большое! Нашел на форуме, вот решение:

header("Content-type: application/x-download");

и вот что получилось в итоге:

<?php
if($_POST["format"]=="1"){$filename = "playlist.m3u";}
if($_POST["format"]=="2"){$filename = "playlist.xspf";}
if($_POST["format"]=="3"){$filename = "playlist.wpl";}
if($_POST["format"]=="4"){$filename = "playlist.pls";}
header("Content-type: application/x-download");
header("Content-Disposition: attachment; filename=$filename");
echo str_replace('\\', false, $_POST["output"]);
?>