SVGA2 意外に不満がないなら解消できない問題でしょ。
ゲストの GPU はパススルーしてるわけじゃないから、ホストになんの VGA が刺さってようが、ゲストの VGA は SW エミュレーション。
これを解決したいなら、ESXi か Xen Server、KVM で、ホストに GPU 2 枚載せて GPU パススルーするほかないでしょう。
ベンチマーク走らせて、CPU/HDD/メモリの速度に問題なければ諦めるべき。