おっと、上の A は Pと読み替えてくれ。いずれにせよ Pというか、Aが求めるものだ。
(2)は y = Px を求めておいて、距離の 2乗 d^2 = |x|^2 - |y|^2でいいのだろう。