途中経過：
えーっと、点と直線距離の二乗和をbで偏微分して b= (16-15a)/6
これをもとの式にもどして・・・あーもうめんどくせー
とりあえず g(a) = (105a^2-108a+44)/6(a^2+1) の極値を見つけるのね。
・・・・ごめん、寝るわ。
ただ感触として、やはり yに距離差を使うのと点と直線の距離使うのでは違う解が出てきそうだ。