別にあやまらなくてもw
各試行がi.i.d.なら、大数の強法則から、それらの平均は各試行の平均に確率1で収束していく。
また、サンプル数を莫大にした時、中心極限定理から、その平均の分布が正規分布により近似
的に計算される。だから、「差が拡が」るか否かは各試行の分布（特に、平均と分散）による。

西尾真喜子もよいが、次の本も読み易い；
http://books.google.co.jp/books?id=9sWAPQAACAAJ&dq=inauthor:%22志賀徳造%22&hl=ja&ei=WfGXTK2_GYq6vQOuwNnZDA&sa=X&oi=book_result&ct=result&resnum=1&ved=0CCgQ6AEwAA
http://books.google.co.jp/books?id=RnOJeRpk0SEC&printsec=frontcover&dq=probability+with+martingales&hl=ja&ei=kPGXTMzHDpGevgPkvujZDA&sa=X&oi=book_result&ct=result&resnum=1&ved=0CC4Q6AEwAA#v=onepage&q&f=false