>>579
直線上の点を（X,Y）として、
g(X,Y)=(X-Xo)^2+(Y-Yo)^2
と、拘束条件,aX+bY=cから、
f(X,Y)=(X-Xo)^2+(Y-Yo)^2-λ(aX+bY-c)
fx=2(X-Xo)-aλ=0
fy=2(Y-Yo)-bλ=0
fλ=-(aX+bY-c)=0
から、X,Yを求めると多分できる。