http://www.leemon.com/crypto/BigInt.html вот очень неплохая либа с кучей удобных криптологических алгоритмов. Писал с её помощью практику по диплому, взламывая дискретный логарифм длиной в 700 десятичных знаков. Эх... хорошие были времена, пик интереса к программированию.