一昔前の(とはいっても未だに最先端に近い) UNIX カーネルの話題は、
UNIX Internals: The New Frontiers / Uresh Vahalia
(邦訳：最前線 UNIX のカーネル)
一冊でほとんど網羅してるので、質問する前に必ず読め。