内部からだったら java.lang.Runtime の maxMemory() freeMemory() あたり。
外部からなら jconsole みたいなモニタリングツール使えば。