javaが向いているとは言えないが、可能だよ。 試しに作ったことある。
普通モデムはCOMポートかUSBに繋がってると思うのだが、かなりハード依存の部分なので
javaの標準APIではアクセスできない。
"Java Communication API" というヤツをSunから落としてくれば可能だが
プラットフォームは現時点ではWindows限定。
モデムのATコマンドとか通信手順を知らないと無理なので
「全くの素人」だと、かなり難しいと思うけど。

結局俺は、Excel + TeraTermマクロ にしたけどねー