[nerv_]

Подскажите, как разбить строку на пробелы так, чтоб пробелы не учитывались в скобках

В данном случае, с точки зрения регулярных выражений, проще вытащить то, что требуется по шаблону. Например, так:

alert('vasia(petia   grisha) grisha( petia vasia) petia(vasia grisha )'.match(/[^(]+\([^)]*\)/g));