$ size a.out
$ lsof -p PID
じゃダメか?

ライブラリの使っているメモリの区分ってのは難しいな。
テキスト領域しか分からない。
別のヒープ、スタック使ってるわけじゃないから。
スタックについては、debuggerが頑張れば追跡可能だろうけども。