>>265です
説明がおかしかったので書き直します。
Dialogを継承したクラスの中で、独自のDialogとAlertDialogを作成しています。
元のActivityにメニューが2つあり、

Menu1 -> 独自ダイアログ　(Dialog継承クラス)
Menu2 -> AlertDialog　　　　(1と同じDialog継承クラス)

という感じで呼び出しをしています。

Dialog継承クラスの中では
onCreateDialog(int id){
switch(id)
case 1:
ここに独自ダイアログ作成メソッド
　　　　　break;
case 2:
　　　　　ここにAlertDialogをnewしてshow()
//省略
}

のように分けて、実際にはonCreateで1か2の引数を渡して作成しています。

今現在では独自ダイアログのほうは普通に表示されますが、AlertDialogを呼び出した時に、
□が出てきて、その背後にAlertDialogが作成されています。

一度スマートフォンの戻るキーを押すと□が消えてAlertDialogのボタンが押せるようなります。