JS AJAX'ом загружает указанную страницу как текст (или объект XML, не суть как важно). Он не отрисовывает, не строит DOM дерево, просто возвращает содержимое страницы, по адресу которой был отправлен запрос. А кто создает содержимое на странице? Серверный скрипт. php при выполнении инструкции echo отправляет переданные ему аргументы в выходной поток, формируя страницу.
Скрипт
<?php
echo "1";
?>
Выведет на страницу голую единицу, без тегов и прочей мишуры. В том же самом ее виде получит скрипт, загрузивший страницу AJAX'ом.
if($_GET["question"] && $_GET["answer"])
{
$query="select null from vika where num=" . mysql_real_escape_string($_GET["question"]) . " and otvet='" . mysql_real_escape_string($_GET["answer"]) . "' LIMIT 1";
$result = mysql_query($query);
echo mysql_num_rows($result);
}