>>104
> x265 [error]: Lookahead depth must be greater than the max consecutive bframe count

エラー原因がこう出てるんだから、>>101も言ってるように
まずは単純なx265エンコから試すべきだろ。
あとはZeranoe版バイナリでどうなるかの確認とか。
少しずつ原因を絞り込んでいかないと、いつまでたっても解決しないと思うよ。