あ、申し訳ありません問題が「等差数列」になってました
等比数列の間違いです

初項a(aは正の定数),公比rの等比数列があり
初項から第n項までの中で最大の数は96
初項から第n項までの和は189
初項から第2n項までの和が12285である
このときaとrを求めよ

です