KeyListener#keyTyped(KeyEvent e)を実装して、そこで
char c = e.getChar();
if(c >='0' && c <=9)
return;
else
e.consume();

とかしても結構すっきりして好きだなー