Short Introductionの方は線形代数を一から説明してるから
これ以上の入門書は無いべ。それでも挙げるとするなら各種線形代数の本かね。
斉藤の線形代数入門（東京大学出版会）とか。

あと、複素解析（といってもコーシーの定理ぐらいだけど）は既知の物となってるから
それの入門書は読んでおくのもいいかもしれない。

Perturbation Theory〜の方は各種関数解析の本だね。
・関数解析（共立出版）黒田成俊
・関数解析（岩波基礎数学選書）藤田宏
・函数解析の基礎　コルモゴロフ・フォミーン
とか他にも色々ある。どれでも分かる奴・手に入る奴見ればいい。

物理の方については知らん。