>>429
参考書ならこんな感じかな
y=mx, x^2+y^2-10x+16=0より
(1+m^2)x-10x+16=0で，解をα,β
交点は(α, mα)と(β,mβ)で(OA・OB)^2=(α^2+(mα)^2)(β^2+(mβ)^2)=(1+m^2)^2(αβ)^2
解と係数の関係でαβ=16/(1+m^2)を代入して(OA・OB)^2=16^2