Как-то так
if($m['id'] == 0) {
//тут сделать инсерт и вернуть 1
echo 1;
//это не нужно return true;
} else {
echo 0;
//это не нужно return false;
}
success: function(html){ // получаем результаты
//проверить html на 1 или 0 и алертом "Вы зарегистрированы" или "Логин не уникален"
//это не нужно $("#massege").text(html);
//это не нужно return html;
}