Ну так пройдитесь по возвращаемой строке и каждую пару символов замените на соответствующий символ, считая пару двузначным шестнадцатеричным числом.
Что-то в духе
function raw_sha1(msg){
return sha1(msg).match(/\w{2}/g).map(function(a){return String.fromCharCode(a)}).join('')
}