>見たことも無い無限集合を何の定義もしないで、
>さもそのままの状態で実在するかのように丸ごと扱う姿勢が厳密性に欠け
>非数学的・宗教的だって言ってるんだよ。

なんとなく想像するに、集合を入れ物何かと思っていると思われますが。これが勘違いです。
素朴な集合論は確かにそうかもしれませんが・・・

集合論において重要な部分は
　　{ x | 赤い物 }
という集合を定義したとき
林檎 ∈ { x | 赤い物 }
とは、この文書を
　　林檎 は 赤い物
と変換したときに正しいなら 林檎 ∈ { x | 赤い物 } は真になるということ、
つまり ∈ は集合と要素を引数にして真/偽を返す関数であるということ。
たとえば、要素として 0-9 までをいくつか並べたものを発見したときに真を返す関数を作って
これを使って

1234567890 ∈ 自然数全体N

としてみる。