PS3は持ってないからわからんけど、PSPではこれでやってる。
参考にはならんかな？
ffmpeg -y -i hogehoge -f psp -flags +bitexact -b 768k -ar 48000 -vcodec h264 -acodec aac -level 21 -r 29.97 -bufsize 224k -ac 2 -coder 1 -ab 128k -maxrate 768k -s 480x272 hogehoge.mp4