начнём с того что проверять пустоту строки отправкой на сервер - это идиотизм.
<button name="reg" type="submit" value="reg">Отправить</button>
->
<button id="btnsend" name="reg" type="submit" value="reg">Отправить</button>
ну и далее заменить с 4й строки на
$('#btnsend').click(function() {
$.ajax({
type: 'POST',
url: 'ajaxcheck.php',
data: { login: $('#login').val() },
// ...
});
return false;