あ、判ったかも。

辺を内部へ平行に動かして、消失するまでの距離は頂点の内角から計算可能。
一番短い距離の辺を除いて、その距離で次の図形を作る。

で、再帰的に小さくしていって、一本の線か点になった時が、
辺から一番遠い位置。