ReleaseDC( *phdc ); が正解な
もっと基本的な部分から勉強しなおした方がいいと思う。

new/deleteはAPIの動作とまったく関係ない.し、newで確保したメモリがReleaseDCで解放されることはない。