>>330
C1の中心F(a,b)とおくとC1：(x-a)^2+(x-b)^2=4
C2の中心Gと半径rを求める
(8/5, 6/5)はFGを2:rに内分する

ABの長さはただちに求まる
Gと直線mx-y=0との距離dを点と直線の距離の公式から求める
6=△ABCの面積=(1/2)*AB*d

D,Eの座標はただちに求まる
P(u,v)とおき、DP^2+EP^2を計算する
これがu^2+v^2-8u-6v+16=0の下で最大となる(u,v)とその最大値を求める
ここで、DP^2+EP^2はu,vについての一次式に変形できる、つまりDP^2+EP^2=a*u+b*v+cと表せる
それをkとおくと、Gと直線a*u+b*v+c=kが接するときが求めるもの