1問目
解と係数より
α+β=-m/4、αβ=1/4、α^2+β^2=(m^2/16)-(1/2)
求める2次方程式は
k{x-(α/β)}{x-(β/α)}=0とおける
k{x^2-((α^2+β^2)/αβ)x+1}=0
k{x^2-((m^2/4)-2)x+1}=0
???

2問目は一応できますが一般的な解き方でないので、一般的な解き方を知りたくて質問しました。
おそらく(左辺)^2-(右辺)^2<0となることを示すのだろうと思いましたがうまくいきませんでした。