>>434
Maximで試行錯誤。条件に合う解の取り出しかたがわからないけど
3番目の解が 0<a,0<b,a<b をみたす。(4個、出力されたものから手動で切り出した）

(%i25) solve([a^2+b^2=16,(a-1)^2+1=c^2,(b-1)^2+1=d^2,c+d=4,s=a*b/2],[a,b,c,d,s];

[a = 1.362200117027502, b = 3.760905577029265, c = 1.063573607320597,
d = 2.936426116838488, s = 2.56155303030303],