>>54
普通に考えればいいだろ。
x^2 + y^2 = r^2
y = a(x^3 - x)
として、yを消去する。
x^2 + (a^2)(x^3 - x)^2 = r^2
x^2 + (ax)^2(x^2 - 1)^2 = r^2
x^2 = Xとおいて、
X + (a^2)X*(X - 1)^2 = r^2

後は、X>0の範囲でこの方程式が三つ実数解を持つようなrが存在するaを求めればよい。