長々と申し訳ありません、
なんとか出来たような気がします
アンビエントライト、ディフューズライトの設定で
頂点カラーの色を飛ばしてしまっていました

これの計算式は、
ディフューズライトx頂点カラー+アンビエントライト
になるのでしょうか?
ディフューズライトが当たっていない部分は頂点カラーの色が無くなってしまうのですが