文字列中の^の数を数えるときはどのようにすればよいでしょうか?

s/"^"/"^"/g
とやってもダメで、
s/"\^"/"\^"/g
とエスケープしようとしてもダメでした。