>>872
#include <errno.h>
だとライブラリ関数のヘッダファイルをインクルードします．
#include <linux/errno.h>
で/usr/src/linux/include/linux/errno.hをインクルードしてみてください．
>>873
sys_openをモジュールの冒頭でextern宣言してもだめですか？
それと単純にカーネルでファイル操作をしたいのなら，ファイルディスクリプタを返す必要はありません．
acctシステムコールにヒントがあります．

#まずは本を読んで知識を得ることが先決だと思います．