ぐぐってたんですが・・・
問題に当てはめて

∠ＡＢＤ＝∠ＣＢＤ＝θとおく
余弦定理より
ＡＢ＾２＋ＢＤ＾２－ＡＤ＾２＝２ＡＢ・ＢＤcosθ
ＣＢ＾２＋ＢＤ＾２－ＣＤ＾２＝２ＣＢ・ＢＤcosθ

ここでＡＤ＝７・８/１３＝５６/１３　ＣＤ＝７・５/１３＝３５/１３

であとは突っ込んで終わりでいいんですかね？