円と離散点群がどれだけズレているかなら、
案１、　(点と中心との距離-半径)^2　の平均 ÷　半径^2
案２、　( 点と中心との距離^2 - 半径^2 )^2　の平均 ÷　半径^4

あたりだろう。