javaコマンドのオプション引数です。
System.out.println(args[0]);みたいなコードを
-Dfile.encoding=UTF-8で実行してるのですが、
UTF-8の文字列をSJISとして解釈したものを
UTF-8に変換してるみたいで化け化けです。