[with-love-from-siberia]

Храните старые значения в хеше и проверяйте наличие соответствующего ключа. Вот псевдокод:

var rs = {};

...

// сгенерировать случайное целок число на интервале [a, b]
var r = randomInt(a, b);

// проверить, что этого числа еще не было
if ( ! rs[r] ) {
    // запомнить число...
    rs[r] = 1;
    // .. и вернуть его
    return r;
}

Полагаю, Вы знаете, что делать дальше, когда весь массив случайных чисел из интервала [a, b] будет исчерпан.