行列は書くのが面倒だから複素数にするけど
z がその合成変換で w に移動するとする
a を 60°回転の複素数とする
条件より w-1 = a(az-1)
さて,求める変換の回転の中心を表す複素数を c とし
その回転角だけ原点中心に回転する複素数を b とすると
  w-c = b(z-c)
この2式から b,c が決まる