試したら5.5.4ではD3D有効化できるんだけど6.04ではできないんだけど有効化できる呪文かわったの?
vmxに入れたのは
svga.vramSize = "67108864" # VRAM指定 64MB
mks.enable3d = "TRUE" # 3Dアクセラレーション有効
vmmouse.present = "FALSE" # ゲストの絶対ポインティングデバイス無効