req.setRequestHeader("Content-Type", "application/x-www-form-urlencoded; charset=win-1251");
вот это не надо делать. Аякс-обмен данными - только через утф-8. Кодировка данных в javascript - утф-8. Если у тебя сайт в cp1251, просто данные от аякса и к нему перекодируй функцией iconv в утф-8(на php делается).