Про то что size=3 исправил - действительно фейл; Вот так попробывал, но не помогло, пишет не определенно;
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html>
<head>
<title>JS matrix hov</title>
</head>
<script>
var A=[[1,2,3],[2,5,1],[3,1,5]];
var b=[[7],[-1],[-1]];
function L(x){
var size=2;
for (var dimension=0; dimension<size; dimension++){
for (var i=dimension; i<size;){
for(var j=dimension; j<size; j++){
if(A[dimension][dimension]!=0){
A[dimension][j]=A[dimension][j]/A[dimension][dimension];
A[i+1][j]=A[i+1][j]-A[i+1][dimension]*A[dimension][j];
i++;
}
else {
i++;
}
}
}
}
}
alert(L([[1,2,3],[2,5,1],[3,1,5]]));
</script>
<body>
</body>
</html>