K=(√3x^2+2xy-√3y^2) / (x^2+y^2)
K={√3 +2y/x -√3(y/x)^2} / 1+(y/x)^2

(y/x)=αとしてαについて整理
√3α^2+(K-2)α-3+K=0

実数の範囲で考えてるからD≧0としたいとこですが
√がでてきてうまいこといかないです‥‥