VC++は64bitのインラインアセンブラに対応してない
MASMを使うのであれば、
rax みたいに e の代わりに r をつけるのと、あとは r8〜r15 がある

関数コールでの最初の4個だっけ?の引数をレジスタ渡しするとか、
でもその分スタックを開けておかないといけないとか、
rsp を16バイト境界に揃えて call とか、
変更してはいけないレジスタが増えてるとか、64bit では色々癖があるので、
そのあたりもググるといいよ