Mac OS X Serverに付いてくるWebMailは
http://www.squirrelmail.org/
を改造したもの。
上のソフトをインストールしてTerminalから設定してApacheを設定すれば出来るよ。