load は ruby スクリプトを読み込むので、拡張ライブラリの読み込みは無理。
そのエラーは、拡張ライブラリを無理矢理 ruby スクリプトと解釈しようとしてエラーになっているんだろう。
普通に require 'nkf.so' ってやればできるはずだけど？