三角形ABCが正三角形となる条件は　ＡＢ=ＢＣ=ＣＡ
つまりＡＢ^2=BC^2=ＣＡ^2

これについてでてきた連立方程式を解いてください。
直線ＡＢの両側に正三角形が出来る点にも注目。答は二通りありますね。