>>757
g={(x1-p1)^2+(x2-p2)^2+(x3-p3)^2}- λ(a1x1+a2x2+a3x3-b) とおく。
g_x1=2(x1-p1) - λa1=0 ・・・(1)
g_x2=2(x2-p2) - λa2=0 ・・・(2)
g_x3=2(x3-p3) - λa3=0 ・・・(3)
(1)〜(3)でλの項を右辺に移項してから両辺を二乗し加えると
4{f(x)}^2=λ^2(a1^2+a2^2+a3^2) ・・・(4)
a1*(1) + a2*(2) + a3*(3)より
2{a1x1+a2x2+a3x3-(a1p1+a2p2+a3p3)}=λ(a1^2+a2^2+a3^2)
a1x1+a2x2+a3x3=b を用いて整理すると
2{b-(a1p1+a2p2+a3p3)}=λ(a1^2+a2^2+a3^2) ・・・(5)
(4)、(5)からλを消去すると
{f(x)}^2={b-(a1p1+a2p2+a3p3)}^2/(a1^2+a2^2+a3^2) 
f(x)>0 だから f(x)=|a1p1+a2p2+a3p3-b|/√(a1^2+a2^2+a3^2)