LAPACK
https://ja.wikipedia.org/wiki/LAPACK
線形代数や最適化問題などを解くライブラリ

CULA　　　　lapack互換GPUライブラリ　nvidiaでしか動かない
http://www.culatools.com/

MAGMA　　　lapack互換GPUライブラリ
http://icl.cs.utk.edu/magma/

Eigen
http://eigen.tuxfamily.org/index.php?title=Main_Page
C++用　線形代数ライブラリ