GACには、地球上の80%以上の人間が使うかもしれないとき以外、使ってはならない。

exeと同じところにDLLがいっぱいあるとうざいから、フォルダ切ってそこに入れればすっきりするよ。

推奨はされてないが、.configファイルに
    <runtime>
        <assemblyBinding xmlns="urn:schemas-microsoft-com:asm.v1">
            <probing privatePath="bin" />
        </assemblyBinding>
    </runtime>
とか書いとけばよし。