文字コード総合スレ part2
レス数が900を超えています。1000を超えると表示できなくなるよ。
0931デフォルトの名無しさん
2007/04/12(木) 23:41:55つ http://tricklib.com/cxx/ex/babel/scoremap.csv
バベルの文字コード判定で使ってる日本語文書内での各文字の出現頻度データです。
出現頻度が100未満のものは切り捨てています。csv の各行は...
出現頻度, SJISでのコード, EUCでのコード, UTF8でのコード, コメント
...こんな感じ。元にしたデータはブラウザがキャッシュしてたデータ(インターネット上のテキスト)です。
# このデータを使って文字コード判定を行えばわずか2,3バイト程度のテキストでも
# 非常に高い確率で正確に文字コード判定が行えます。
レス数が900を超えています。1000を超えると表示できなくなるよ。