вы не там return false; ставите
его надо ставить внутри обработчика событий, а вы его поставили в функции вызываемой из обработчика событий
в вашем случае самое простое сделать так
<form method="post" action="/auth/index.php?register=yes" name="bform" onsubmit="return check();">