http://www.amazon.co.uk/New-Grove-Haydn-Composer-Biography/dp/0333804074/
こちらザ・ニューグローブからの単行本のようですが、楽曲解説はあるのかどうか？

古いものならロビンスランドンの著書、またはUEの
Notes to the Critical Edition of the complete Symphonies（３巻分冊）
が入手しやすいですね。

ホグウッド頓挫全集のオリジナル盤の解説はそういった意味でも
文献として貴重ですから
（まとめボックスが出たので中古価格も落ちてるでしょうし）
無理にCDを手放す必要もないと思います。
ジャマなら解説書をスキャンなりコピーしておくとよいのでは。