VMware上のWindowsからPCIのデバイスであるGX2Wの存在自体を
そもそも認識出来ないからドライバ以前の問題で動かないよ。

USB接続のキャプチャデバイスだったら認識させることは出来たかもしれないけどね。(実際に使うには転送速度や安定性に不安がある)