Метод css возвращает красный так #ff0000, значит проверять и устанавливать цвет так
$(this).css("border-right","1px solid #ff0000");
if ($(this).css("border-right") == "1px solid #ff0000"){}
Да, на всякий случай можно пользоваться яваскриптовым методом alert(), что посмотреть какая конструкция что выводит
alert($(this).css("border-right"));//выведет 1px solid #ff0000