通りすがりのものですが。
RRDTOOLなどでIP毎にトラフィックを計測し、日に一回総量をソートして、
ある基準以上の転送量がある人はIPで制限するというのが吉で無いですか？

80番ポートには問題があるということなら、トランスペアレントプロキシを用意し、
HTTPだけは保護されるようにすれば、80番ポートのWinnyも防げます。

あとは、自社でダイアルアップせずにFreeBitなどにまかせるというのも手です。

一番イイ手は、廃業することかもしれません。