>>281
まるっきり画像処理に関する質問だな。
色認識の論文とか調べればいい方法あるんじゃないの？

正確性を気にせずギザギザがとりたいのなら
検出結果側にフィルタをかければいいと思うが。