>R=a*[[cos120,-sin120],[,cos120,sin120]]の2×2行列として
>として Rは行列なので{1/(1-R)}を(E-R)^(-1)として計算していいものでしょうか?

ここだけ読んだ
ダメに決まっている