3Dを使う時点でどっちも（とゆうか仮想マシン自体が）微妙な気がするけどな
単にアプリケーション使いたいだけなら、ハイパーバイザなんて使わなくても
LinuxにWine入れてやればいいんじゃない？
確か最近の奴ならDX7ぐらいまでは使えたように思うし

後、ESXiは鯖として使うには十分だけど、それ以上のことやろうとするとやっぱ力不足だよ
apcupsdみたいなハード直接叩くデーモンも入れられないしね
どうしてもハイパーバイザ入れたいならXenでいいんじゃない？