高校生風に解くなら、$A = \begin{pmatrix} \alpha & \beta \\ \gamma & \delta \end{pmatrix}$ として、実際に解くしかない。

$\alpha , \beta , \gamma , \delta $ の内、一つでも解が無限に存在すれば、$A$ は無限に存在することに注意して、$\beta = \gamma = 0$ であるかないかで場合分けして考察すれば良い。答えは多分、$a^2 - b \geq 0$ （二次方程式の判別式から）