А кусок HTML можешь показать? Может получится сделать как-то по-нормальному?
А вобще:
var target = this.parentNode.parentNode.nextElementSibling;
if (target.style.display !== "none") { ... }
Учти что nextElementSibling не сработает в IE8 (но это можно пофиксить)
Также проверка корректна только если элемент не скрыт через таблицу стилей. Если нужно учесть и такой вариант, то юзай getComputedStyle (опять с IE8 траблы)