С таким кодом ни транзишн, ни animation не поможет, т.к. они не могут работать на display:none\block. Как вариант надо работать с opacity+position. На ховере мы без транзишена вытаскиваем подменю из-под родителя и потом плавно делаем ему непрозрачность через транзишн.
Примерно так
http://jsfiddle.net/Softlink/HUeR5/ (сделал для вебкита)