√部分はR/(R^2-x^2-y^2)^(1/2)となりました。
∫の範囲の方を考えたいのですが、とりあえず極座標をつかうとして
z=(x^2/2a)+(y^2/2b)でx=rcosθ、y=rsinθとおいて、rについて整理していったのですが、
r^2=2abz/bcos^2θ+asin^2θとなったのですがここから
r^2={4R[(cos^2θ/a)+(sin^2θ/b)]-4}/{ (cos^2θ/a)+(sin^2θ/b) }^2になおせません