「2CPUに2JOB」と「1CPUに2JOB」が変わらなかったということでしょうか?
「2CPUに2JOB」と「1CPUに1JOB」が変わらなかったというのなら正常だと思いますが．
以前，1週間だけDual Xeon (ワークステーション用のi860チップセットなのでHT機能なし．メモリはRIMM)でテストしたことがあります．
single threadのJOBを2個同時にrunさせても，1CPUで1個のJOBをrunさせた場合と殆どパフォーマンスは変わらなかったように記憶してます．(つまり2個のCPUはそれぞれ独立に1JOBずつ担当している．)
Intel Compilerで自動並列化オプションをつけたコードの場合は所詮末端での並列化なのでオーバーヘッドが喰われるせいか殆ど効果なし．
手法を検討して上位レベルでmulti-thread化したコードを書かないと効果なさそうです．
コンパイラは1CPUのときよりも軽快で，topコマンドでみていると2CPU使ってコンパイルしていました．(コンパイラはmulti-threadのコードなのでしょう．)
OSはRedHat Linux 7.2 (kernel-2.4.7-?smp)でした