「正規表現として」ではない。。
$0、$1、$2、、による前方参照をキャンセルするときにバックスラッシュを使うjから。
.replaceAll ("$0 \\$0");