Все уже написано
http://api.jqueryui.com/spinner/
pure html+js
http://www.webcodingtech.com/javascript/spinner.php
Но добавлять по 1 это, конечно, баянище. В таких кнопках есть смысл когда шаг нечеловеческий. Скажем корень квадратный деленный на пи пополам. В реальности какие-нибудь калькуляции из пунктов в мм, из пенсов в копейки и тп. Но по 1... это, типа, для инвалидов что ли?