距離は直線でよいです。
入力した点からその他の点までの距離計算は
わかるんですが、、、どうやればいいか。

ちなみに、原点からの直線距離を計算して近い順に並べ替えるのはできました。