一週間程前に「iRipDVD」試してみまつと言ってた>335です。
忙しくてエンコ出来なかったのですが、やっとテストしてみました。

5.66GBの邦画DVDを
Rip from →DVD
Language →ja
Audio →112
Width →640
Size　　　　　　　　　　 →700MB
Cartoon/Anime/CG movie→チェック付けず

の設定でエンコしてみました。
使用環境はiBook800/OSX10.2.6/メモリ640
出来たAVIファイルサイズ679.6MB
（映像は本編のみで、特典部分はエンコされてません）
エンコにかかった時間:約42時間
（その間一切使用せず、エンコだけに専念させて）
画質:QuickTime Mpeg4（標準）と同程度