vladislav.blinov,
может так ?
var widthMenu = 0;
$("div#menu .ButtonMenuSite").width(function (i, width) {//получаем индекс и ширину элемента
widthMenu += width;//складываем ширину элементов
if(widthMenu < $(window).width()){//проверяем вмещаются ли все элементы на экране
$("div#menu").width(widthMenu)
} ;
return width
});