[Dim@]

mindkilla,
это легко поправить:

var a = new Number(prompt('', '1'));
      var b = new Number(prompt('', '10'));
      var m = new Number(prompt('', '10'));
      var mapTrue = new Array();
      var outSet = '';
      var num = '';
      for (var i = 0; i < m; i++) {
        num = Math.floor(Math.random() * ((b - a) + a));
        if (mapTrue[num]) {
           i--;
           continue;
        }
        outSet = outSet + (i == 0 ? ' ' : ',') + num;
        mapTrue[num] = true;
      }
      alert(outSet);