if (($(this).hasClass('selected')) == false) { //выполнится, если у этого объекта нет класса selected }
if ($(this).find('.selected').lenght == 0) { //выполнится, если у этого объекта нет детей с классом selected }