絞った結果、D3DRS_FOGVERTEXMODEをD3DRS_FOGTABLEMODEにすれば動きました。
が、範囲のフォグでないと見た目に違和感があるためやはり前者を使いたいです。
GetDeviceCapsでは問題ないので非対応ってことはないのですが・・