エンコード関係ならこのページじゃない?
http://java.sun.com/products/java-media/jmf/2.1.1/guide/JMFCapturing.html
JavaWorldの2000年12月号にも記事があったよ。

あと、コーデックといってもWMPとかのが
そのまま使えるわけではなくて
JMF用のコーデックというものがそれぞれ必要。

普通はPluginManagerが適切なコーデックを選んでくれるから
自分でコーデックの種類を意識する必要はないらしい。