>> С помощью математических функцию удается ...
Это применение линейной алгебры ->
https://www.youtube.com/watch?v=gMsQWoVG3Ao
Для 3D ->
https://www.youtube.com/watch?v=pTx4L0Stizg
Описание использования матриц трансформации ->
https://thebookofshaders.com/08/?lan=ru
В компьютерной графике для описания линейных трансформаций используют комплексные числа которые обычно называют матрицами трансформаций. Это дает ряд преимуществ т.к. такие числа остаются числами и с ними можно совершать операции сложения вычитания и.т.д..
Сложение комплексных чисел (матриц) более простая операция для компьютера чем вычисление тригонометрических функций (Math.cos, Math.sin) используемых для поворота в твоем примере.