半径Ｒ球の中心から平面まで垂線を引いてｘ軸として、
球の中心から平面までの距離をｈとすると

x^2+y^2=R^2　の円の[h,R]の部分をｘ軸まわりに回転させればいいから、
半球より小さい方の体積は、

∫[h,R] (πy^2)dx=π∫[h,R] (R^2-x^2)dx

でいいんじゃまいか？