ロリポップは知らんけど、

~UserDir/
　├ log
　├ htdocs
　└ cgi-bin

cgi-bin 上記のような位置にあるのに cgi-bin を htdocs の下に作って設定してるとかやってない？
403 が出ることから、もしかしてら・・・と想像してみたのですが。