Зачем Вам mootools и jquery на одной странице? Если хотите сохранить ссылку на старый this, замкните его перед этим, к примеру:
var _self = this;
$.ajax(url, function(){
this // тут this не помню что, мб XMLHttpRequest
_self // а это запомненная ссылка на предыдущий this
});