BREWからだとIDisplayの色深度は16（最近の端末は知らんが）
これに併せてJPEGを展開すると

SXGA = 1280 * 1024 * 2 = 2.5MB
UXGA = 1600 * 1200 * 2 ≒ 3.67MB

くらい。
KDDIの端末はMALLOC()で確保が保証されてるサイズに上限があるが、
ひっかかってないかい？