GDでimagecreatetruecolor()とかするなら、少なくとも width*height*24/8 バイトは必要だね。
適当にテストしてみたところ、それよりだいぶ多く食うみたい。
サムネイルの分はせいぜい数百KBしか使わないだろうけど、オリジナルがでかいと厳しい。
(可能なら)外部コマンドでImageMagick使った方が幸せになれるかも。

php -r '$memB = memory_get_usage();
quote> $im = imagecreatetruecolor(640, 480);
quote> $memA = memory_get_usage();
quote> $val = array_map("number_format", array($memB, $memA, $memA - $memB, 640*480*24/8));
quote> var_dump($val);'
array(4) {
[0]=>
string(6) "39,640"
[1]=>
string(9) "1,586,976"
[2]=>
string(9) "1,547,336"
[3]=>
string(7) "921,600"
}