Во-первых, <div> это блочный объект, а <a> строчный и вкладывать их таким образом не по фен-шуй.
Во-вторых, у Вас все должно работать.
<!DOCTYPE html>
<html>
<head>
<script src="http://code.jquery.com/jquery-latest.js"></script>
</head>
<body>
<a onclick="test()" id="main" href="#">Главная</a>
<script>
function test() {
$('#main').css('color', 'red');
}
</script>
</body>
</html>