>>333
y"-3y'+2y=exp(2x)
は、斉次方程式
y"-3y'+2y=0
の一般解が
y = c0 exp(x) + c1 exp(2x)
(c0, c1は積分定数)

で、exp(2x)がそのまま入ってしまっているために
これをそのまま用いることができないのは明らかです。
y1 = a exp(2x)としても左辺が0になるのは当然だからです。

y'' + 4y = cos(2x)
の方も同じ理由です。

こういうときは係数を(多項式) cos(2x)のような感じでおいてみると
うまくいくことが多いです