Il circumcerchio dei vertici A(0, 4), B(0, - 2), C(5, 0) è
* Γ ≡ (x - 17/10)^2 + (y - 1)^2 = 1189/100 ≡
≡ 5*x^2 + 5*y^2 - 17*x - 10*y - 40 = 0 = 0
e perciò il punto 'a' l'hai svolto correttamente.
Però limitarsi a dire "Non riesco a svolgere questi due…" è un po' troppo generico, non trovi?
La dimostrazione (impropriamente chiamata verifica) della consegna 'b' richiede di dimostrare l'equivalenza ("se e solo se") fra le affermazioni "P(h, k) appartiene a Γ" (cioè (h - 17/10)^2 + (k - 1)^2 = 1189/100) e "i tre punti A’, B’ e C’ sono allineati" (cioè il loro triangolo ha area zero, vincolo dal quale devi ricavare che k = (5 ± √(85*h + 225 - 25*h^2))/5).
La consegna 'c' chiede: 1) di esprimere l'area del triangolo di vertici A(0, 4), B(0, - 2), P(h, k) in funzione di (h, k) sotto vincolo (P ∈ minore degli archi AB), cioè S(ABP) = 3*h; e poi 2) di massimizzarla, cioè di trovare la massima ascissa sul minore degli archi AB.
------------------------------
Dovresti precisare in che cosa non riesci.
A) trovare le rette AB, BC, CA
B) trovare le proiezioni di P sulle rette AB, BC, CA
C) trovare l'area del triangolo noti i vertici
D) distinguere fra il minore e il maggiore degli archi AB.
---------------
Io ora devo badare a qualche impegno di famiglia.
Se tu metti qui sotto un commento con le precisazioni io stasera vedrò di spiegarti ciò che occorre.