正規母集団からのサンプル平均の分布は正規分布になります。
いま一回のサンプルの分布が正規分布にならなかったら
正規母集団でないことをを疑った方がよいですか？
もちろんサンプルサイズにも依ると思いますが。