Triangolo equilatero ed equazioni di secondo grado

Buonasera, allego la traccia di un problema. E l'impostazione che ho dato. Non mi esce e non capisco dove sia l'errore.