Проверка на Nan

[voraa]

А что именно не работает?

Но так правильнее будет

let sum = () => {
	let a, b;
	const proverka = x => x.length > 0  && !isNaN(+x);

	do {
		a = prompt("Введите первое число");
		if (a===null) return false;
	} while (! proverka(a.trim()))

	do {
		b = prompt('Введите второе число');
		if (b===null) return false;
	} while (! proverka(b.trim()))
	
	a -= 0;
	b -= 0;
	
	alert (a === b ? 'Числа равны' : a < b? 'Первое число больше второго' : 'Второе число больше первого');
	return true;
}

while (sum());

[azolkin]

let num1 = prompt('Введите первое число:');
while ( !num1.length || isNaN(+num1 + 1) ) {
	alert('Ничего не введено или введена строка');
	num1 = prompt('Введите первое число:');
};
alert(num1);

let num2 = prompt('Введите второе число:');
while ( !num2.length || isNaN(+num2 + 1) ) {
	alert('Ничего не введено или введена строка');
	num2 = prompt('Введите второе число:');
};
alert(num2);

if (num1 > num2) alert('Первое число больше втрого');
if (num1 < num2) alert('Второе число больше первого');
if (num1 == num2) alert('Числа равны');