Кажется я понял проблему. Онклик тут правильно использован, загвоздка не в нем, а в this:
$("td").click(function () {
if ($('input:checked:enabled').val()=='top')
{
if ($(this).css("border-top") != "1px solid red")
{
При такой конструкции this уже не td, а input, насколько я понимаю. Тогда вопрос, как передать в самое вложенное условие нужный элемент (то есть td)?