[why.not?]

Если нужно, чтобы просто оба плагина работали, то оставьте title для prettyphoto, а тултипам отдайте name, для этого понадобится небольшое изменение текста плагина:

this.vtip = function() {    
    this.xOffset = -10; // x distance from mouse
    this.yOffset = 10; // y distance from mouse       
    
    $(".vtip").unbind().hover(    
        function(e) {
            this.t = this.name;
            this.name = ''; 
            this.top = (e.pageY + yOffset); this.left = (e.pageX + xOffset);
            
            $('body').append( '<p id="vtip"><img id="vtipArrow" />' + this.t + '</p>' );
                        
            $('p#vtip #vtipArrow').attr("src", 'vtip_arrow.png');
            $('p#vtip').css("top", this.top+"px").css("left", this.left+"px").fadeIn("slow");
            
        },
        function() {
            this.name = this.t;
            $("p#vtip").fadeOut("slow").remove();
        }
    ).mousemove(
        function(e) {
            this.top = (e.pageY + yOffset);
            this.left = (e.pageX + xOffset);
                         
            $("p#vtip").css("top", this.top+"px").css("left", this.left+"px");
        }
    );            
    
};

jQuery(document).ready(function($){vtip();})

и html-кода

<a class="vtip" name="То, что появится во всплывающей подсказке" title="Здесь комментарии к фрейму №4." target="_self" href="4.html?iframe=true&width=740&height=320" rel="prettyPhoto[iframes]">Фрейм №4..</a>