Обратите внимание на то, что Вы передаете на вывод:
display.text(add);
Во-первых, для всех операций Вы передаете add для отображения. Это Ваша функция сложения, а не результат. Думаю, Вы сами не понимаете, что в дальнейшем с ней делает jQuery. Посмотрите синтаксис ради интереса (третий вариант).
https://www.w3schools.com/jquery/html_text.asp
В итоге, происходит ее вызов с аргументом expr = 0 и так как это явно не массив, результат предсказуем: parseFloat(undefined) = NaN с дальнейшем выводом в alert.
Во-вторых, вам нечего передавать в display.text(), так как результат операций Вы нигде не храните и не возвращаете. Здесь не хватает опыта в проектировании. Отделите логику от представления. Пусть функции операций только возвращают результат (без отображения), который уже можно вывести в дальнейшем в alert и в display.text() в одном месте.