VMWare WorkstationでWin Vista（RC1)をインストール出来ない時は、
vmxファイルをノートパット等で開いて

svga.maxWidth = "640"
svga.maxHeight = "480"

って書き込んで保存するとインストール出来ます
解像度の問題？

インストール後に消せば問題ない模様