CPUに搭載されている一次キャッシュじゃないんですか？
１６バイトしかないなんて・・・
プリフェッチして遅延を減らすという話は聞いたことがあります。