本当に数学の問題として扱うならば、a,bの範囲が定められていないので回答不能である、これが答えです

ここは高校数学の質問スレッドです
高校数学に相応しい回答ができないならば、回答するべきではありません