>>883
高専の数学なので行列式は使ってOKです。
Aの行列式が0になるということはad-bc=0ですよね。
そこから先はどうすればいいのでしょうか。
答えはa,bを任意の数として上の問題は5つ、下の問題は3つ出ています。

>>894
ケーリー・ハミルトンの定理はまだ習っていないので、
連立方程式を解くやり方で答えたいのですが…