>>783本当にありがとうございました。解けました。

単純に、3a/4にa=3を代入してoc=9/4,3b/2にb=5を代入してod=15/2,同様にしてcd=21/4

これらを三角形ocdについての余弦定理
(21/4)2乗=(9/4)2乗+(15/2)2乗-2・9/4・15/2cos∠AOB
これを計算して

-540/16=-540/16cos∠AOB
となり、
cos∠AOB=1　となったんですが、

そもそも
3a/4にa=3を代入してoc=9/4
こうして一辺の値を出すことが間違えているのでしょうか？