[red-nicolas]

Никак. Всё равно первым пунктом будет отправка формы на сервер, вторым - проверка в базе. Можно снести форму, если при проверке окажется, что значение есть в базе.

Если добавить в функцию return false

$("form").submit(function(){
    // получаем то, что ввёл пользователь
    var checkString = $("#cat").val();
	var data= 'cat='+ checkString;
    // если checkString не пуста
    if(checkString) {
        $.ajax({
            type: "POST",
            url: "test.php",
            data:data,
            success: function(html){ // получаем результаты
               		$("#massege").text(html);
					if(html==1){var result=true;}else{var result=false;}
					alert(result);
					return result;
					$("form").text(result);
				    }
        });
}
return false; 
});

то форма не отправиться, как мне в это место (return false) вывести значение result?