BASE64は暗号じゃないが?
暗号化したファイル名をどうエンコードするかという話なら、ふつうに16進でいいんじゃないの?