億単位のレコード数扱ったことあるけど、
（たしか、過去30数年くらい上場・非上場
企業dailyデータだったかな）
インデックスさえきちんと使えばユーザも
満足するレスポンスで使えた。
たまに行うインデックス再構成には
半日くらいかかったけどね。
基本は
・対象テーブルの物理ファイル（デバイス）
　を別ディスク、RAWデバイスつかえるならRAWデバイスを使用。
・インデックスをきちんと使う。
でほとんど大丈夫。
別テーブルや別パーティションは
データ保守の面を考えると、最後の手段だな。