ポイントだけ。

１）
>>308
getval()のなかのif (..) return EOF;が４つあるけれど、それの順番を変更すればよろしい。
２）
αがRGBの値から求められるのなら、αは無視してよろしい。

以上。