dsl -
http://ru.wikipedia.org/wiki/%D0%9F%... %D0%B8%D1%8F
имеется ввиду, что язык должен быть предельно прост, как лисп или луа, но тем не менее поддерживал бы возможность расширения. ну типа как jquery - это dsl для работы с домом.
про реляционную алгебру - это нативная поддержка множеств и операций над ними как в sql.
поддержка деревьев - это например e4x для XML или ast для рефлексии.