((a/b)^2-3)*(((a+3b)/(a+b))^2-3)=-2*((a^2-3b^2)/(b(a+b)))^2 < 0
(√3は無理数なのでa^2-3b^2≠0)
上の式を正の数 ((a/b)+√3)*((a+3b)/(a+b)+√3) で割って
((a/b)-√3)*((a+3b)/(a+b)-√3) < 0

経緯は特にない、ラストの式を示せばおしまいなだけ