Olá...

Admitamos primeiramente q o semi-círculo tenha raio R.assim:

O quadrado tem lado 2R....AO=OE=OB=R......Ora, EÔB=60º (angulo central).Assim teremos EB=R....Então vemos q EOB é um triangulo equilatero..

Para calcularmos a area do triangulo AEF, dividiremos este nos triangulos AEO e EOF...Calcularemos suas áreas pela formula A=absenx/2 em q "a" e "b" sao os lados do triangulo e x o angulo formado por estes dois..

Para o triangulo AOE fica evidende q sera dada por RRsen120

Para o triangulo EOF teremos de encotrar OF para fazermos R*OF*sen60

O problema maior esta em achar OF, entao fazemos a projeçao ortogonal do ponto E pelos lados AB e DC...Admitamos q esta projeçao encontre o segmento AB em "H" e o segmento DC em "T"....Ora, EH eh a altura do triangulo equilatero de lado R e vale R*sqrt(3)/2....Ainda HB=R/2...

Enfim, por semelhança vem: FH/DT=EH/ET....observe q DT=3R/2...Realizando os calculos vc encontra FH e posteriormente OF visto q OF+FH=R/2

Entao eh soh realizar os calculos e chegar no resultado...Espero ter sido claro(acho q nao fui)...A resoluçao ficou um pouco trabalhosa...devem haver outras solucoes ate melhores..Eh isso ae..flw