まず、「数学基礎論」は「基礎的な数学」や「数学の初歩」などとは違う。

分野名としては記号論理学だとか数理論理学とほぼ同じ意味だと思って良い。
（ただし細かいニュアンスは結構違う。）

「数学は集合論のよって基礎付けられる」と言うのは
ほぼ全ての数学の理論は集合論、具体的にはZFC＋追加公理
の中でモデルを作ることが出来る、
従ってほぼ全ての数学の理論はZFCの枠内で考えることが出来る、
というくらいの意味。実際には基数や順序数の厳密な定義だとか
forcingだとかを知らないと数学は出来ない、ということではない。
「基礎付け」と「基礎」の違いを良く理解した方が良い。

専門分野としての集合論はモデルの理論とはかなり関係が深いと思うけど
あまり>>71の考えてるようなこととは関係ないと思う。