alert($('#mytable').innerHTML) //undefined - нет такого свойства у объекта jQ
alert($('#mytable').get(0).innerHTML) //получаем объект DOM, а затем его свойство innerHTML
alert($('#mytable').html()) //в jQ это можно получить/определить методом .html()