すみません。P(x,y)、A(x1,y1)、B(x2,y2)、C(x3,y3)
としてます。AP、BP、CPの辺の長さはご存知のとおり√(x-xi)+(y-yi)です。
i=1,2,3