普通にインストールすればneon-configかpkg-config用の*.pcファイルも入っているはずだから
gcc sample.c `neon-config --cflags --libs`
か
gcc sample.c `pkg-config neon --cflags --libs`
とでもすればいい。