ベイズなんて大学の時にやったような記憶がある程度の身だが,
面白そうなので思いつきで書いてみる.

>>29
思いっきりヒューリスティックに画像を含むものはspamである確率を上げる(画像なんて使わんもん)

いっそのこと辞書は空の状態からはじめて,未知である記号の列から
最長で一致するものを抽出していき,それを辞書に登録していくとかどうか.
abcdedcbabcba => abc
# 効率のよいアルゴリズムは思いつかないが

あとはその辞書を使ってベイズでも何でもいいけど普通に統計処理する.
うまくいくかは知らんが,新出単語とか気にする必要もないし,言語にも依存しないと思うがどうか.