up (

collection.filter(':visible')

надо делать после анимации (после того, как они скрыты), а не просто при клике. скорее всего, в этом проблема.

в моём примере они скрывались сразу, без анимации.

и ещё линию влево сместите и цвет нормальный поставьте :)

melky, огромное спасибо
не знаю на сколько это красиво с точки зрения стиля
сделал так

jQuery(function ($) {
        var hide = $('.filter');

        var collection = $('.items-bl li');

        hide.click(function () {
            collection.removeClass('line');
            setTimeout(function(){
                collection.filter(':visible').filter(function (index) {
                    var isMatching = index && index % 4 === 0;
                    return isMatching;
                }).add(collection.last()).addClass('line');
                collection.filter(':visible').filter(':first').addClass('line');
            }, 700);
        });
        collection.removeClass('line').filter(':nth-child(4n+5), :first').addClass('line');
    });
        });