Стесняюсь спросить . Весь смысл кода перевести 3 десятичных числа в 3 шестнадцатиричных и сложить их?
Серьёзный код. По настоящему требует запуска множества функций ....

Строк 20- 30 до кучи при правильной вёрстке.
Решение проблемы с переполнением стека -научиться составлять алгоритмы