【解答】
Cとlが異なる2点で交わるので、x^2-(x+a)=0…(1)の判別式をDとすると
D=1+4a >0　　∴a > -1/4…(2)
P，Qの座標をそれぞれ(α，α^2)、(β，β^2)(α<β)とすると、α・βは(1)の2解より
α+β=1 ⇔ β=1-α
αβ= -a ⇔ α(1-α)= -a < 1/4(∵(2)) ⇔ {α-(1/2)}^2 > 0　∴α ≠ 1/2…(3)
R(X, Y)とすると、条件より　　X=(2α+β)/3　Y=(2α^2+β^2)/3
それぞれ、β=1-αを代入して、X=(α+1)/3　Y=(3α^2 - 2α+1)/3
これより、α=3X - 1　　Y=9X^2 - 8X+2
(3)より、3X - 1≠ 1/2　∴X ≠ 1/2
以上より、点Rの軌跡は　　y=9x^2 - 8x + 2 (x≠ 1/2)

軌跡の方程式は合っていたのですが、xの範囲が間違っていました。
どこかで同値性が崩れてしまったのでしょうか？