[Sweet]

думал что это условие сработает в теле цикла

Такое обычно бывает, когда не думаешь Условие намного проще:

var a = Math.floor( Math.random() * 100 ) + 1;
do {
  var b = parseInt( prompt ('Угадайте число от 1 до 100', '') );
  if( a > b ) alert ('больше');
  if( a < b ) alert ('меньше');
} while( a !== b );
alert( 'Вы выиграли!' );