QSVを使える環境にないので、感じたことだけ。
ratecontrol mode がサポートされていないから、
ビットレート等を指定しなければダメ、ということみたいなので、
一度、-b -r wxh 辺りをきちんと指定してみて、
動くようならコンパイルの時、何かをenableにすれば良さそうだけど、どうかな?