в PHP в самом начале файла пишешь:
header('Content-Type: text/html; charset=utf-8');
когда выводишь данные, тобишь возвращаешь AJAX'у используй iconv()
echo iconv("UTF-8", "WINDOWS-1251", $variable);
а когда AJAX'ом посылаешь данные в PHP делай так:
encodeURIComponent(variable)
удачи!