c = (double)a / b;
または
c = a / (double)b;

c = a / bは、double = int / intだから、intで評価したあと暗黙的にdouble型にキャストされて代入される。
整数型の/演算は、少数切捨てになるので、a / b == 0これが、double型にキャストされてcにdouble型で0を表すビット列が代入される。