直線l:x+y=3に対してB(5,0)と対称な点をB'(a,b)とおくと
BとB'の中点の座標((5+a)/2,(0+b)/2)がx+y=3上にあるので
(5+a)/2+(0+b)/2=3
すなわちa+b=1 …①
またBB'の傾き(b-0)/(a-5)と、x+y=3の傾き-1が垂直になるので
(b-0)/(a-5)・(-1)=-1
すなわちa-b=5 …②
①②を解いてa=3、b=-2
B'の座標は(3,-2)になります。
BP=B'Pで
AP+BP=AP+B'P≧AB'なので
AB'の距離が最小値になります。
(3-1)^2+{5-(-2)}^2=AB'^2=53
AB'＞0なので AB'=√53 …答

AB'の直線の方程式はy-5=(-2-5)/(3-1)・(x-1)
すなわちy=-7x/2+17/2
これとx+y=3の交点の座標が答えになります。
(11/5,4/5) …答