伊藤清の「確率論の基礎」でいいんじゃない？
巻末に池田信行の「概要とその背景」が入ってるが、これがすごくいい。
>>721のような入門書の代わりになるね。
本文も１１２ページとコンパクトにまとまってる。
確率論の教科書の名著だと思うよ。