у вас ничего не получится тк вы не просто атрибут меняете, а тип input а, а он read only, могу предложить такой вариант
<html>
<head>
<script type="text/javascript" src="//ajax.aspnetcdn.com/ajax/jquery/jquery-1.8.2.min.js"></script>
<script type="text/javascript">
$().ready(function () {
$(".form-horizontal").find(".answer").each(function () {
$(this).replaceWith($('<input type="radio" />'));
});
});
</script>
</head>
<body>
<div class="form-horizontal">
<input type="button" class="answer" />
<input type="button" />
</div>
</body>
</html>
ps кстати у вас и алерт поэтому не появляется, тк скрипт ошибку выкидывает и до алерта дело просто не доходить, хотите увидеть алерт, строку
$(this).attr("type","radio");
смените на
try{$(this).attr("type", "radio");}catch(ex){}