「newした場合」って、AnsiStringを？　それとも構造体を？
いずれにせよ、然るべきdeleteを行うなら問題は何もないよ。