>そもそも編成について、後の人はこれを継承しなかったですよね。

いいえ。あなたの質問は、19世紀の室内楽の歴史を語れ、というのに
等しいわけだけど(大木親子でも門馬でも、解説書には書いてあるのに)。

19世紀の室内楽において弦楽四重奏の地位が低下した。なぜか。
ピアノや、ヴィオラ、チェロといった弦楽器を弦楽四重奏に増強して
重厚にするという流れが生じたからだ。和声が複雑化すると、必然的に
メロディラインを三本の楽器で支えるのは困難になるからね。
ピアノ四重奏や五重奏、弦楽五重奏や弦楽六重奏が、
ベートーヴェンやシューベルトの時代の弦楽四重奏の地位を置き換えて
いったのだ(シューベルトの八重奏はベートーヴェンのセレナーデ的な作品の延長
なので除外)。

で、ガーゼはメンデルスゾーンの忠実な弟子だから弦楽八重奏を
そのまま継承したのは良いだろう。ブラームスが弦楽だけの室内楽の
第一弾として六重奏を選んだ理由は、メンデルスゾーンやガーゼの作品から
「まだヴァイオリンを二本抜いても、重厚なロマン派室内楽の構成は成り立つ」と
判断したからではないのか。シューマンがピアノ五重奏という形式を選んだ理由は
明白で、ピアノを抜いた作品を書く自信がなかったからだ。
初演時にリストがあまりにメンデルスゾーン的であると指摘している。

最終的に選んだ形式は問題ではない。ともあれ弦楽六重奏を実質的なデビュー作とした
シェーンベルクまで、以上の「脱・弦楽四重奏」の流れの起点となっているのは
このメンデルスゾーンのシンフォニックで重厚な室内楽作品に他ならない。

同様に、交響曲については「スコットランド」がこの役割を果たした。
これは19世紀の作曲家の「常識」だと思うよ。