[laimas]

Форма отправляется спокойно.

Капец какой-то - вот что вы отправляете и асинхронным запросом:

url:'controller',//url адрес файла обработчика
data:{InputX: x, InputY: y, InputR: R, Flag: false}

здесь полей формы даже и близко нет. А форма имеет тот же адрес запроса, и также отправляется методом POST. И это вы называете нормальной работой? Либо выбрасываете ajax запрос и отправляете форму, либо блокируйте отправление формы и отправляйте асинхронный запрос.

Проблема лишь в валидации

А она вам нужна?

input type="checkbox" onclick="changeX(-5)" и так у всех флажков, то есть выбран ли флажок или не выбран скрытое поле получит значение именно этого флажка. Это что за бардак?

InputR - это список и он не имеет опции с пустым значением, а значит он обязательно уже будет иметь значение первой опции, а они кроме чисел не имеют других значений. И что тут проверять? У вас единственно поле с ручным вводом, значение которого выгоднее проверить гораздо малой кровью, а не плагином.