ну вот допустим

var mass = [5,1,6];

var a = mass.sort(function(a,b) {

if(a>b) return 1;
if(a<b) return -1;


});
alert(a)

a и b - это некие числа, которые находятся в массиве и какие именно нам неизвестны.

Но, почему происходит сортировка от меньшего к большему именно с этими значениями return??? И как вообще мы узнаем что a< или > 0 ???

Это описано в доке...