Mess4me,
<script>
//Регулярное выражение должно находить квадратные скобки в строке, если внутри них есть любое кол-во любых символов, кроме букв.
var reg = /^(\[((?:[^A-Za-z]+)|(?!(\.{4,})))?\])/g;
console.log(reg.test('[test]%#$%^')); // false
console.log(reg.test('[...]#$%%') );// true
console.log(reg.test('[...#]#$%%')); // true
console.log(reg.test('[....]#$%%')); // false
</script>