Скобки забыл у вызова метода
toLowerCase.
"use strict";
var str = prompt('Введите значение');
str = str.toLowerCase();
function checkSpam(str){
if(str.indexOf('viagra') >= 0 || str.indexOf('xxx') >= 0){
alert('true');
}else{
alert('false');
}
}
checkSpam(str);