こっちでも試してみたけどできんかった
svga.vramSize = "268435456"にしても、適用されないな
ゲストOS上でプロパティ開いて見ると、VMware SVGAII 128MBとある

環境は
core i7
geforce GTS250,
host win7 64bit, guest winXP 32bit

playerスレに誤爆したのは秘密w