изменил код на
$('.mainTable th.header:not(.headerSortDown, .headerSortUp)').hover(
function () {
$(this).css('background-color', '#8dbdd8');
},
function () {
$(this).css('background-color', '#e6eeee');
}
);
но работает криво.
То есть при загрузки обработчик события только на элементы с классом header вешается. После того как одному из элементов добавляется класс headerSortDown, обработчик с него не убирается.