lua_register(L,"SetMap",SetMap);
でいいのでは？

(struct lua_State *)"SetMap"
がエラーの原因っぽいが・・・