OS Xはバージョンが上がる度にメモリに対する要求が厳しくなるので、それに引っ掛かったのでは？

メモリを外すには、底面カバーを外してロジックボード付のシャーシを引っこ抜く。
上段メモリはCPUカード上のカバーを外せば外せるけど、
下段メモリはCPUヒートシンクを外して、CPUカードまで外す必要がある。

まあ、慣れれば簡単なんだけど。