>>586
t=x^2-2x+a とおく。 ｔの2次方程式 t^2+t+b=0 は b<1/4 より、異なる2実数解を持つ。
この2実数解をα、β(α<β)とする。
x の2次方程式 t=(x-1)^2+a-1 は
t<a-1 のとき実数解なし、
t=a-1 のときただ一つの実数解を持つ、
t>a-1 のとき異なる2つの実数解を持つので
αに対応する実数xが存在せず、βに対応する異なる実数xが2つ存在し、かつそのうちの
一つが 0<x<1 を満たす。
xとtとの関係をグラフに書けば　α<a-1<β<a が成り立つことがわかる。
これは　f(t)=t^2+t+b とおいたとき f(a-1)<0 , f(a)>0 となることと同値であるから
求める a,b の範囲は　(a-1)^2+(a-1)+b<0 , a^2+a+b>0 となる。