自己レス。
たまにアプリが強制終了すると、ファイルが削除できなく
なったりするのはこのせい？

他の例で試しにMutexを大量に作ってから強制終了したら、
使用中のハンドル数が減らない…Win2000にて