3.0*x + -6.0*y + 9.0*z = 6.0
2.0*x + 5.0*y + -8.0*z = 8.0
1.0*x + -4.0*y + 7.0*z = 2.0

を解くプログラムで、a[n][n]が左辺の係数、b[n]が右辺ではないかい。