[ksa]

что бы первых введенных символах функция сработала на 20 а последующие на 40

Просто поменяй значение "порога" с 20 на 40...

var max=20;
$('textarea').keyup(function() {
        var textLen = $(this).val().length;
        var len = (textLen % max);
        if (len == 0) {
            max=40;
            console.log('функция работай');
        }