世間的にはoctopusが人気。
http://ruby-toolbox.com/categories/activerecord_sharding.html
↑に載ってないのだとmulti_dbというのもある。
https://github.com/schoefmax/multi_db

それぞれ癖があるので使えそうなのを使ってくれ。
なお、本番にいきなり適用すると危ないので
テストを十分に行ってから。