すいません 行列の前に係数を忘れていました
正しくは
B=1/(1-det(V'A'(I-VV')AV)^(1/m) * (I-A'(I-VV')A)A(I-A'(I-VV')A)
です、おねがいします