そのリファレンスのすぐ下に書いてあるけど、こういうこと?

Matrix.rows(rows, copy = true)
rowsを要素とする行列を生成する。ただし、引数rowsはネストした配列(=配列の配列)である。
(略

irb(main):031:0> m = Matrix.rows(a)
=> Matrix[[1, 2], [1, 2]]
irb(main):032:0> n = Matrix.rows(b)
=> Matrix[[1, 1], [1, 1]]
irb(main):033:0> m*n
=> Matrix[[3, 3], [3, 3]]