そのClose()って、this.Close()じゃ・・・。
ファイルの削除の仕方ではなく、ファイルの閉じ方を間違っているのが問題。調べてみて。