AからBCを通る直線上に下ろした垂線の交点をD、BからACを通る直線上に下ろした垂線の交点をE
とすると、△ACD≡△CBE、また三平方の定理より、AD^2+BD^2=AB^2　⇔　BD=√(5^2-3^2)=4
よって、BC^2=BE^2+(BD-BC)^2　⇔　BC=25/8、△ABCは底辺がBCで高さがADと見なせるから、
その面積は (BC*AD)/2=75/16