アルゴは以下のとおり

パスワードを元に乱数を初期化−元ファイルから1バイト取得−乱数取得−
乱数を元にバイナリコードから1バイトデータ取得−データ置き換え−
元ファイルから次の1バイト取得−乱数取得−・・・・

簡単だけどまず解けないかと