[Kolyaj]

Во-первых, вешать проверку данных нужно на onsubmit формы, а не на onclick кнопки.
Во-вторых, чтобы отменить отправку, функция проверки должна вернуть false.