すまんがもう Win95/98/Me 系の環境構築は忘れてしまった。

> C:\Program File\Java\jdk1.5.0_06\bin
セミコロンが全角。Program File じゃなくて Program Files

・DOS 窓で 「echo %PATH%」 と打ち込んで意図したパスが設定されてるか確認。
 PATH 設定しなくても 「C:\Program Files\Java\jdk1.5.0_06\bin\javac HelloWorld.java」 とか
 全部入力してやればコンパイルは可能。
・*.java ファイルをダブルクリックで開くにはエクスプローラのどこかで 「ファイルの関連付け」 とか
 何とか言うのがあったはず。関連付けをキーワードにネットで探せ。
・MS-DOS の知識がないなら Eclipse 入れた方が早い (98マシンじゃ厳しいか)。