>>846は質問した自分とは別人です。
dxdyのところをrdrdθに直して計算したらちゃんと答えがπ｛b^(2-2α）-a^(2-2α）}/(1-2α）
と出たのですが、dxdy=rdrdθになるのがよくわかりません。
x=rcosθをｒで微分するとdx/dr=cosθdθ/dr、y=rsinθをrで微分するとdy/dr=sinθdθ/dr
という考えは間違ってますか？