(1)は、x^2-bx+3になると思うんですよ(ここが違うのかな・・・?)

D<0をすりゃいいんだろうけど、出来ないんですよ・・・。
もう少し詳しく教えてはいただけないでしょうか?