Выход нашел.
Перед отправкой формы делаю так:
var sData = decodeURIComponent($('input', oTable.fnGetNodes()).serialize());
$('#tabledata').val(sData);
т.е. получаю все значения массива и пихаю их в hidden поле
затем в пхп обрабатываю его и получаю готовый массив:
parse_str($tabledata, $output);