速度は実際測っても差はないし、実測の問題じゃないと思うけど?
それより中身を直に晒すと参照とか使えないのがキツイ。

iterator x,y;
Vector( iterator x, iterator y ):x( x ), y( y ){}
int X( void ) const { return *x;}
int Y( void ) const { return *y;}
operator += ( const Vector &vector )
{
       *x += X();
       *y += Y();
}

こういう委譲スタイルが使えない。