EXILIM EX-S880を使ってＱＴコンバーターでやってる私の設定は
mp4を選んだ後Ｈ.264の設定で上から3つ目を選んで後は設定で縦横512×384
レートは適当に、フレームレート15で出力で綺麗にいけますよ、
設定いじると結構変わるので色々やって合うのを見つければ綺麗になると思います。