数学者の書いた本では
B. L. van der Waerdenの「量子力学における群論的方法」とか
杉浦 光夫の「連続群論入門」とかかな。

別に有限単純群の分類理論を趣味的に極めたいとかそういうんじゃないんだよね。
だとしたら物理板の方が詳しいかもしれない。