点Pでの接線は
L1：y=2ax-a^2
点Q(b,b^2)での接線は(a≠b)
L2：y=2bx-b^2

L1⊥L2から
(2a)(2b)=-1
4ab=-1

L1<L2の交点のx座標は
2(a-b)x=a^2-b^2
x=(a+b)/2

よって面積Sは
S=l∫[x:b,(a+b)/2]x^2-(2bx-b^2)dx +∫[x:(a+b)/2,a]x^2-(2ax-a^2)dxl
=l[(1/3)(x-b)^3] [x:b,(a+b)/2] + [(1/3)(x-a)^3] [x:(a+b)/2,a]l
=(1/12)l(a-b)^3l
=(1/12)(a+4/a)^3

あとはできるやろ？