>>6がかわいそうなので後半部分やってみた

座標平面上において,四角形ABCDを点Cを原点Oに,BC,CDをそれぞれ重なるようにとる.
すると,A(2,√3),B(3,0),C(0,0),D(0,(√3)/2)
直線BDの方程式はy={(√3)/6}x+(√3)/2　直線ACの方程式はy={-(√3)/2}x また、交点Pの座標は(-3/4,(3√3)/8 )
点PはACを5:3に内分する点であり,⊿APBと⊿CPBは等高であるから、底辺比と面積比は等しい.ゆえに⊿APB:⊿CPB=5:3
⊿CPB=3×(3√3)/8×(1/2)より、⊿APB=3×(3√3)/8×(1/2)×(1/3)×8=(3√3)/2
(四角形ABCD)=⊿ABC+⊿ACD, ⊿ABC=3×2×1/2=3, ⊿ACD=(√3)/2×(√3)/4×1/3×8=(√3)/2
よって(四角形ABCD)=3+{(√3)/2}　したがって,(四角形ABCD):⊿ABP=3+{(√3)/2}:(3√3)/2=(2√3+1):3

計算ミスしてるかも＞＜　素直に誘導に従ってベクトルでやったほうが簡単だったかなあ　ベクトルでやる場合は交点を2通りに表して云々のいつものパターンでいけると思う
普通に平面図形の問題として考えて、補助線引いて余弦定理とか使ってやってもできるかもね