>>966
えーと多分>>965を読む前に書かれたと思いますが、一応>>965の追記も兼ねて。

データ圧縮（情報源符号化）は、次の要素からなっています。
モデル化　＋　確率推定　＋　符号化

用語の使い方の問題かもしれませんが、一般に「符号化」といった場合は、
すでに確率が与えられている場合のみの操作を表します。
たとえば、符号化の族には、Huffman符号や算術符号、が入りますが、
LZ77やPPMなどは「符号化」ではありません。
またHuffman符号などで、記号の頻度を求める前処理がありますが、
それもモデル化であり、純粋にHuffman符号といった場合には、
すでに確率が与えられている必要があるわけです。

＞「観自在菩薩行深般若」の後、何がくるか圧縮できるでしょ？
＞確率分布だけで圧縮する以上の方法があるの。

したがって、続く文字列を推定するのは「モデル化」
モデル化によって得られた知識から、確率を算出するのが「確率推定」、
得られた確率をビット列に変換するのが「符号化」です。