(3)×が1つしか入らない確率をQ[n]、
×が2つだけ入る確率をR[n]とすると、
P[n] = Q[n] + R[n]

Q[n] は、1回目に確率(1-p)で○が出て、後は○が出続ける確率だから
Q[n] = (1-p)p^(n-1)

ここで、n個目の○が出たときに既に×が2回出ていた場合(確率R[n])、
n+1個目の○が出たときに×が二つの確率は次に○が出る確率だから、pR[n]
n個目の○が出たときにまだ×が1回しか出ていない場合(確率Q[n])、
n+1個目の○が出たときに×が二つの確率は次に×、○と続けて出る確率だからp(1-p)Q[n]
以上よりR[n+1] = pR[n] + p(1-p)Q[n] = pR[n] + (1-p)^2 p^n

R[n+1] = pR[n] + (1-p)^2 p^n
R[n+1]/p^(n+1) = R[n]/p^n + (1-p)^2/p
R[n]/p^n = R[1]/p + (n-1)(1-p)^2/p

R[1]は、{××○}となるときのみで
R[1] = p(1-p) だから

R[n]/p^n = (1-p) + (n-1)(1-p)^2/p
P[n] = Q[n] + R[n] = (1-p) p^(n-1) ((2-n)p + n)
あれ、合わないな、計算間違えたかな