как защитить пользователей и сервер от содержимого папки с пользовательскими файлами
 

Сервер - apache/nginx. Какие проблемы вы видите/знаете?

Не понял что конкретно нужно, но может это поможет:
http://habrahabr.ru/blogs/sysadm/112908/

да, наверное, слишком кратко описал. Речь идет о папке, куда пользователь сайта может загружать файлы. Попозже напишу, что сам выяснил

Я сейчас тоже занимаюсь этим вопросом, но времени очень мало. Как будет что интересное, скину.

Рекомендации из хабра стоит выполнить, особенно запуск системных функций PHP.