>>29
一次変換で∠AOBを直角にして解くとか･･･

PからOBに平行な直線を引きOAとの交点をQ、
PからOAに平行な直線を引きOBとの交点をR、
OQ=a,OR=bとする。Pは定点なのでa,bは定数である。
OA=x,OB=yとする。
△AQP∽△PQBからx,y,a,bの満たすべき条件が出る。---(1)
△AOB=(1/2)*x*y*sin∠AOBだから
(1)の条件の下でxyが最小になる場合を求めればよい。

当たりつけるだけなら
AP=t,BP=s,直線ABがdθ回転したとすると極値をとるとき
t(t+dt)sindθ=s(s+ds)sindθ 一次微小量だけとると
(t^2-s^2)dθ=0　∴t=s