つまり
Y = (299*R + 587*G + 114*B) / 1000;
とか
Y = (306*R + 601*G + 117*B) >> 10;
でどう？