これだけだとなんともだな。
コンソールから、$ mplayer `動画ファイル名'
(または$ gmplayer `動画ファイル名')と打ち込むと、
メッセージが出てくるんで、そこに状況が書かれているはずだよ。

現情報だけで怪しそうなところは、
~/.mplayer/config 内の vo の値が正しくない、
~/.mplayer/gui.conf 内の vo_driver がマシンと合っていない
ぐらいかのー