getElementsByTagName возвращает список нод(наверено NODE_LIST), а не один элемент
надо указать конкретный элемент, с помощью индекса, например:
<input value="Подсчет текста на странице" type="button" onClick="alert(getText(document.getElementsByTagName('table')[0]))">