[Octane]

а забыл, надо же дождаться загрузки нового окна:

$("#link").click(function() {
	var newWin = open(this.href, "Wnd");
	newWin.onload = function() {
		$("a", newWin.document).css("color", "red");
	};
	return false;
});

newWin.onload вставил, потому что ни $(newWin.document).ready(…), ни $(newWin).load(…) не заработали.