libavcodec/libx265.c の ctx->params->inputBitDepth のところを ctx->params->internalBitDepth にしないと、
>libavcodec/libx265.c:105:18: error: no member named 'inputBitDepth' in 'struct x265_param'
と言われてビルドできなかった。
x265.h を見ると internalBitDepth が正しいように思うのだけれど、どうなんでしょうね。
出来上がったバイナリで試すと一応正常にエンコードできて ffplay で再生可能でした。