[Erolast]

сейчас, например, выбираю файл в первом инпуте размером 12мб - ограничение не срабатывает

Потому что возникает ошибка исполнения.

Поправил:

$("#files").bind("change", function(event) {
  var max_attachments_size_allowed = 5 * 1024 * 1024; //5мб
  var attachments_size = 0;

  $('#files input[type=file]').each(function() {
*!*
    if (this.files[0]) {
    	attachments_size += this.files[0].size;
    }
*/!*
  });
  
  console.log(attachments_size);
  console.log(max_attachments_size_allowed);

  if (attachments_size > max_attachments_size_allowed) {
    $('#err_attach').html('Размер вложений ограничен 5 мб!');
    event.target.value = '';
  }
});