(load 'ess-site)
(setq inferior-R-program-name
"c:/Program Files/R/R-2.4.1/bin/Rterm.exe")

だったかな。
もしかして新しいフレームが出てくるって、同じウィンドウが2分割されて、下側にhelpが出てくるってことをいってんの?
それとも新しいウィンドウが開いちゃうってことをいってんの?