[with-love-from-siberia]

Удаляйте именно файлы, указывая их по имени.

// 1
var f = fso.GetFile(filespec);
f.Delete();

// 2
fso.DeleteFile(filespec);