Unix ならこの例みたいに、
ttp://doc.okkez.net/187/view/library/fcntl
Fcntl::O_EXCL | Fcntl::O_CREAT を指定して IO.sysopen すればできるんじゃないかな？