たしかメソッドに渡してしまうとエスケープ解析対象外になるんじゃなかったか?
mat3=MyMatrix.mul (mat1,mat2);
みたいなの。

でも思うんだけど、クラスが状態変更しないこと(immutable class)が
保障されているならこのインスタンスもエスケープできるんじゃないか?
実装とか細かい動作はしらね―けど。
例えばclass Stringとか、class BigIntegerみたいなの。これと同じく、自作クラスの
class MyMatrix みたいなのでも出来て欲しいなと思って。

エスケープ解析とか、多分知ってる人いないし、見向きもしてないと思うけど。
特別に行列とかにこだわってんじゃないけどね。