Спасибо за подсказку. Добавил единицы измерения и все заработало включая onresize:
function resizeRock() {
document.getElementById("rockImg").style.height = (document.documentElement.clientHeight - 100) * 0.9 +"px";
}
Приводить к числовому типу не пришлось.
Прочитал что без doctype работает quirk mode.. Получается в старых браузерах единицы измерения по умолчанию были в пикселях?