tree automataでぐぐったら先頭に出てきた
http://www.grappa.univ-lille3.fr/tata/
Tree Automata Techniques and Applications
はどうでしょう。
わかりやすいかどうかは知らない。