Cdexとは別にバイナリをダウンロードしてきて
D:\プログラム\エンコーダー\CDex\lame\の
lame_enc.dll にコマンドラインを付けるのではなく
lame.exeに付けることで解決いたしました。
また解らないことができたら質問させていただきます。
ありがとうございました