DXVACheckerで優先順位いじってみたらどうかな?
DXVACheckerで右クリックでAMDでVGAだとハードの設定直でいじれるのでいじってみるとか。
ただし、逆に黒再生されたことがあるので焼け石に水かも知れないが。
Vista Media Center Decoder utilityで変更はしてるんだよね?