[Octane]

textarea.value.slice(textarea.selectionStart, textarea.selectionEnd);

и для IE:

document.selection.createRange().text