勝手にさらしていいのかわかんないけど
http://www.yozemi.ac.jp/nyushi/sokuho/sokuho08/kyushu/koki/sugaku_ko/images/kai.pdf

これの大門3の(2)についてなのですが
一次変換で原点を通る直線に関する対称移動なのですが、それは
(cos2a -sin2a|sin2a cos2a)と表されますよね。（これは座標を媒介変数に直して余弦定理を使い出しました。移動前後の点を結ぶ線は直線に垂直で距離が等しいから円周上にあると考えられるから)
しかしa=-2/5ならばAの2行2列がどう考えても-1か1の範囲に収まらないと思うのですが，なぜでしょう？)