＞エラーが出る
コンパイルが出来ないのか、実行時エラーなのか、エラーメッセージ書け、ｳﾞｫｹ

＞char math;
＞gets(math);
getsの引数はchar *型を指定する。gets(&math)にすればコンパイルは通る、が実行時にｱﾎﾞﾝ

＞if (math = "a"){
文字列定数"a"はchar *型、char型のmathとは比較できない。
Cで文字列を比較するならstrcmpを使う。

char math[BUFF_SIZE];
とかにすれば、BUFF_SIZE-1文字までの入力なら動く。

どうでもいいが、入力を促すメッセージでは大文字の"A"なのに、
小文字の"a"との比較で良いのか？