∬√（2*(x^2)-(y^2))dxdy （D=0≦y≦x≦1）
という問題の計算過程なのですが、

∬[x=0,1][y=0,x] √（(2*x^2)-(y^2)) dydx
（∫√（(x^2)-(y^2)) dy = (1/2)*（y*√（2*(x^2)-(y^2)) - 2*(x^2)*arcsin(y/√(2x))）
=∫[x=0,1] (x^2)/2 -(x^2)*arcsin(√(x/2)) dx
=(1/6)+(π/12) - (1/3)*∫[x=0,1] (x^3)/√(2-x) dx

で、このあとの∫[x=0,1] (x^3)/√(2-x) dxは、
2-xをuなどに置換して積分で合っているでしょうか？