Ho disegnato un diagramma della figura per aiutarti a seguire la risoluzione.
Per risolvere questo problema dobbiamo cercare di esprimere l'area di $CEH$ in termini di $\overline{BH}$ e di minimizzare questo numero. Possiamo notare che l'area di $CEH$ è semplicemente $A_{CEH}=\dfrac{\overline{CH} \cdot \overline{EH}}{2}$, perché $\overline{BH} \perp \overline{AC}$, quindi $\overline{EH}$ è l'altezza di questo triangolo.
Iniziamo con esprimere $\overline{EH}$ in funzione di $\overline{BH}$:
Possiamo notare che i triangoli $AHB$ e $ABE$ sono simili, dato che sono entrambi triangoli rettangoli e hanno l'angolo $\widehat{ABE}$ in comune ($\widehat{ABE}$ è in comune perché $B,H,E$ sono allineati). Ciò vuol dire che anche i triangoli $AHB$ e $AEH$ sono simili, perché sono entrambi rettangoli e $\widehat{BAH} \cong \widehat{AEH}$ (che abbiamo ricavato dalla congruenza di $AHB$ e $ABE$). Dal momento che i triangoli sono simili, sussiste la proporzione seguente:
$\overline{AB}:\overline{AE} = \overline{BH} : \overline{AH}$ (ho usato $\overline{AB}$ e $\overline{BH}$ perché è dato che $\overline{AB}=4$ e il nostro obbiettivo è esprimere tutto in termini di $\overline{BH}$). Con il teorema di Pitagora, possiamo ricavare che $\overline{AH} = \sqrt{\overline{AB}^2 - \overline{BH}^2}=\sqrt{16-\overline{BH}^2}$. Riscriviamo la proporzione in termini più agevoli:
$\dfrac{\overline{AB}}{\overline{AE}}=\dfrac{\overline{BH}}{\overline{AH}}$
sostituendo
$\dfrac{4}{\overline{AE}}=\dfrac{\overline{BH}}{\sqrt{16-\overline{BH}^2}}$
Eleviamo al quadrato entrambi i membri:
$\dfrac{16}{\overline{AE}^2}=\dfrac{\overline{BH}^2}{16-\overline{BH}^2}$
e troviamo che
$\overline{AE}^2=\dfrac{256}{\overline{BH}^2}-16$
Possiamo ricavare $\overline{EH}^2$ con il teorema di Pitagora sfruttando il fatto che $AHE$ è rettangolo:
$\overline{EH}^2=\overline{AE}^2-\overline{AH}^2=\dfrac{256}{\overline{BH}^2}-(16-\overline{BH}^2)=\dfrac{\overline{BH}^4-32\overline{BH}^2+256}{\overline{BH}^2}=\dfrac{(\overline{BH}^2-16)^2}{\overline{BH}^2}$.
Il triangolo $AHB$ è simile ad $ABC$, perché entrambi sono rettangoli e hanno l'angolo $\alpha$ in comune. Il triangolo $ABC$ è simile a $BHC$ perché sono entrambi rettangoli e hanno in comune il complementare di $\alpha$, per transitività $AHB$ è simile a $BHC$, in particolare hanno congruenti gli angoli $\widehat{BAH} \cong \widehat{CBH}$. Di conseguenza $BHC$ è simile ad $AEH$ per transitività, hanno congruenti gli angoli $\alpha '$ e $\alpha ''$, quindi sussistono le proporzioni:
$\overline{AE} : \overline{BC} = \overline{EH} : \overline{BH}$
$\overline{AB}:\overline{BC} = \overline{BH} : \overline{CH}$
Risolviamo la prima per $\overline{BC}$ dato che conosciamo tutti gli altri valori in funzione di $\overline{BH}$:
$\overline{BC}=\dfrac{\overline{AE} \cdot \overline{BH}}{\overline{EH}}$
Eleviamo tutto al quadrato e sostituiamo i valori che avevamo trovato poc'anzi:
$\overline{BC}^2 = \dfrac{256-16\overline{BH}^2}{\overline{BH}^2} \cdot \overline{BH}^2 \cdot \dfrac{\overline{BH}^2}{(\overline{BH}^2-16)^2} = \dfrac{\overline{BH}^2(256-16\overline{BH}^2)}{(\overline{BH}^2-16)^2}$.
Risolviamo la seconda per $\overline{CH}$:
$\overline{CH}=\dfrac{\overline{BC} \cdot \overline{BH}}{\overline{AB}}$
Eleviamo al quadrato e sostituiamo $\overline{AB}^2= 16$ e $\overline{BC}^2= \dfrac{\overline{BH}^2(256-16\overline{BH}^2)}{(\overline{BH}^2-16)^2}$:
$\overline{CH}^2=\dfrac{\overline{BH}^2(256-16\overline{BH}^2)}{(\overline{BH}^2-16)^2} \cdot \overline{BH}^2 \cdot \dfrac{1}{16} = \dfrac{\overline{BH}^4(256-16\overline{BH}^2)}{16(\overline{BH}^2-16)^2}$.
Sappiamo che:
$A_{CEH}=\dfrac{\overline{CH} \cdot \overline{EH}}{2} \implies A_{CEH}^2= \dfrac{\overline{CH}^2 \cdot \overline{EH}^2}{4}$, possiamo sostituire con i valori noti di $\overline{CH}^2$ e $\overline{EH}^2$:
$A_{CEH}^2=\dfrac{1}{4} \cdot \dfrac{(\overline{BH}^2-16)^2}{\overline{BH}^2} \cdot \dfrac{\overline{BH}^4(256-16\overline{BH}^2)}{16(\overline{BH}^2-16)^2}= \dfrac{\overline{BH}^2(256-16\overline{BH}^2)}{64}$
È abbastanza ovvio che il massimo di $A_{CEH}^2$ si ottiene per il massimo di $A_{CEH}$, quindi calcoliamo il primo per ricavare il secondo.
CALCOLO DEL MASSIMO SENZA DERIVATE
Non so se tu abbia studiato le derivate, per sicurezza procederò senza e sfrutteremo le parabole.
Ponendo $\overline{BH}^2=x$, $A_{CEH}^2=\dfrac{x(256-16x)}{64} = 4x-\dfrac{x^2}{4}$. Nota che $y=4x-\dfrac{x^2}{4}$ è una parabola con concavità rivolta verso l'alto, quindi il punto di massimo assoluto è il vertice, che dovresti sapere avere ascissa $V_x=-\dfrac{b}{2a}=-\dfrac{4}{2\cdot(-\frac{1}{4})}=8$. Dato che $x=\overline{BH}^2$, la massima area si ottiene quando $\overline{BH}^2 = 8 \implies \overline{BH}=2\sqrt{2}$ (l'area massima sarebbe $y(8)=4 \cdot 8 - \dfrac{8^2}{4} = 16$).
CALCOLO DEL MASSIMO CON DERIVATE
Per risolverlo con le derivate (nell'eventualità in cui tu le abbia studiate), ti basta derivare $y$:
$y=4\overline{BH}^2-\dfrac{\overline{BH}^4}{4} \implies y' = 8\overline{BH}- \overline{BH}^3$.
Per trovare il punto di massimo poni $y'=0$ (come assicura il teorema di Fermat), quindi $8\overline{BH}-\overline{BH}^3=0$. Dal momento che $\overline{BH} \neq 0$ dato che la lunghezza di un segmento non può essere nulla, possiamo dividere per $\overline{BH}$ e troviamo che $8-\overline{BH}^2=0 \implies \overline{BH}=2\sqrt{2}$.
L'immagine che avevo disegnato io non illustrava il caso in cui l'area fosse massima, questo caso particolare si ottiene quando $ABCD$ è un quadrato (puoi verificarlo sostituendo $\overline{BH}=2\sqrt{2}$ nell'espressione per $\overline{BC}$ e notando che risulta $\overline{BC}=4=\overline{AB}$).
Ecco un grafico del caso speciale: