>>50
1)　エッジ抽出（環境に合わせて適当な方法）
2)　線分近似（Douglas-Peuckerアルゴリズム，hough変換など山ほどあるよ）
3)　4辺で構成されるポリゴンを選択

趣味でやってるならともかく，大学生やエンジニアだと君痛いね．
画像の単純な図形への近似って10年くらい前に終わったような研究だよ．