ああ、記述が古いんだな
yum install ruby でインストールされるはずだ
これだと本体だけしか入らなくて寂しいので普通は複数入れる

yum install ruby ruby-devel ruby-libs ruby-irb ruby-rdoc

CentOS5 のバージョンは 1.8.5 だっけ？