abのどっちが長いかわからんが、
a>bなら
s = a * a√(3) / 2
a<bなら
s = b * b√(3) / 2
a=bならどっちでも可

じゃないの？