DebugとReleaseで別々に設定すればいいだけだけど、
(左上に切り替えコンボあるでしょ)
#pragma comment(lib,xxxxx) をDEBUGの定義で切り替えて
書いておくといいと思うよ