質問させてください。平面ベクトルの問題です。

三角形OABにおいて、辺OAを3:1に内分する点をC、辺ABの中点をMとする。
また、OA＝aベクトル、OB＝bベクトルとする。

(1)省略　指定されたベクトルをaベクトル、bベクトルを用いて表す問題
答えはoc=4/3aベクトル、cm=2/-a+2bベクトル

(2)直線cmと直線obの交点をDとする。od=kbとおくとき、実数ｋの値を求めよ。
答えはk=2/3

ここからを教えてもらいたいんです。

(3)oa=3,ob=5,線分cmの中点をmとする。(2)の点dに対して、on⊥cdが成り立つとき、
cos∠aobの値を求めよ。

この問題を解くことができません。
oa=3,ob=5を使って三角形の辺の値を出して余弦定理を用いて出すとどのようにしても値が1になってしまいますし、
第一垂直である条件を使っていないことになってしまいます。

解き方、もしよろしければどうして余弦定理を使って値をだすとおかしなことになってしまうのか
教えてください。