ファイルシステムをカーネルには組み込まないのが一番だと思われます。
スレッド管理、プロセス管理、メモリ管理などのみをカーネルに組み込み
ファイルシステムは、特殊1プロセスに過ぎない存在にすることをお奨めします。

ちなみにlinuxのカーネルは圧縮しても512kbを越えて大変なことになった時期が
あるそうです