>>544
自分が頓珍漢だってことに気がついてほしい。

まず、
> キャッシュミスが重大な応答速度の阻害要因になるってレベル
という話は、いったいどこから飛び出したのか。

シビアな応答速度の話なんて誰もしてないのに、
いきなり、そういう前提で質問をするから、頓珍漢なのだ。

> VMのオーバーヘッドが無視できるレイヤの話＝キャッシュミスなんてマクロな事象は問題にならない
> アルゴリズムが支配するレイヤなんだよ。

まず第一に、
ミクロな事象というのなら話はわからなくもないが、マクロな事象というのだから、頓珍漢だ。
ただの書き間違いなのか?

第二に、
この話の流れでの、VMのオーバーヘッドというのは、
JITコンパイラが生成するコードが、C++コンパイラの生成するものよりも遅い
ということなわけで、だからこそ、キャッシュミスに隠れてしまうという話になる。

第三に、
メモリアクセスと演算のコスト比が逆転し、差が開き続けているので、
アルゴリズムの優劣を検討する上で、従来のように演算回数だけでは不十分で、
メモリアクセスの回数やパターン、キャッシュとの親和性が、無視できなくなってきている。

大きなワーキングセットのプログラムに至っては、
TLBキャッシュまで意識してやらないといけない。