Как определить расширение файла по содержимому?
 

Один из плагинов для firefox неправильно сохраняет файлы, если не может определить расширение файла по имени.

var ext = fname.substring(fname.lastIndexOf(".") + 1);

Как определить расширение файла по содержимому?

Сомневаюсь, что дело в расширении, скорее всего сервер неправильный MIME-тип отдаёт, а попытка узнать расширение файла уже на крайний случай. Если нужен конкретный тип файла, наверное, можно по байткоду в начале определить тип, используя FileAPI.