rpmとbin両方root(LANG=C)でインストールして、rootで実行して試してみたが、
両方とも
file.encoding:ANSI_X3.4-1968
user.country:US
user.language:en
になったぞ。

テストプログラムはこんなの
Properties p = System.getProperties();
for ( Iterator i = new TreeSet( p.keySet() ).iterator(); i.hasNext(); ) {
String key = (String)i.next();
System.out.print( key );
System.out.print( ":" );
System.out.println( p.getProperty( key ) );
}