64bit CPU ならまた別だが、拡張されていない IA32 アーキテクチャそのものが
一度に 4G byte までしかアクセスできません。さらにその空間を OS や各種データ
でやりくりしなきゃいけないわけだから..

物理メモリの半分以上をひとつのデータで確保しなきゃいけなくなったら、何か間違っている。
と思わないと。

なお、フォトショップとかの画像処理アプリケーションでは、自前でメモリ管理をするのが定番です。