Secondo me c'è qualcosa di sbagliato nella traccia di questo esercizio. Un sottospazio di $\mathbb{R}^5$ è formato comunque da vettori di $\mathbb{R}^5$, che costituiscono un insieme chiuso rispetto alle operazioni dello spazio vettoriale... ma di certo non passiamo in $\mathbb{R}^4$!
La traccia corretta dovrebbe essere la seguente:
Dato il sottospazio vettoriale di $\mathbb{R}^5$
$A = \{(x_1, x_2, x_3, x_4, x_5) \in \mathbb{R}^5 | x_1+x_2-x_3-x_4 = 0, x_1-x_2+2x_4-x_5=0 \}$
si determini una sua base ortogonale e si proietti su di esso il vettore (0,1,1,2,-1).
Detto ciò, tu giustamente hai determinato il generico vettore di A che appunto del tipo:
$(x_1, x_2, x_3, x_4, x_5) = (x_2-2x_4+x_5, x_2, 2x_2-3x_4+x_5, x_4, x_5)$
Per comodità lo scrivo tramite parametri come:
$(x_1, x_2, x_3, x_4, x_5) = (u-2v+t, u, 2u-3v+t, v, t)$
Determino prima di tutto una base, non ortogonale, sostituendo in modo canonico prima $u=1, v=t=0$, poi $v=1, u=t=0$ e infine $t=1, u=v=0$ quindi abbiamo:
$v_1 = (1,1,2,0,0)$
$v_2 = (-2,0,-3,1,1)$
$v_3 = (1,0,1,0,1)$
Questa base non è ortogonale, ma possiamo renderla tale usando l'algoritmo di ortogonalizzazione di Graham-Schmidt.
Partiamo ponendo:
$ w_1 = v_1 = (1,1,2,0,0)$
Il secondo vettore lo otteniamo come:
$ w_2 = v_2 - \frac{\left\langle v_2, w_1 \right\rangle}{\left\langle w_1,w_1 \right\rangle} w_1$
Calcolo a parte i prodotti scalari necessari:
$\left\langle v_2, w_1 \right\rangle = (-2,0,-3,1,1) \cdot (1,1,2,0,0) = -2-6=-8$
$\left\langle w_1,w_1 \right\rangle = (1,1,2,0,0) \cdot (1,1,2,0,0) = 1+1+4 = 6$
Da cui:
$w_2 = (-2,0,-3,1,1) - \frac{-8}{6}(1,1,2,0,0) =$
$= (-2,0,-3,1,1)-(-\frac{4}{3},-\frac{4}{3},-\frac{8}{3},0,0) = $
$ = (\frac{-2}{3},\frac{4}{3}, -\frac{5}{3}, 1,1)$
Analogamente abbiamo:
$ w_3 = v_3 - \frac{\left\langle v_3, w_1 \right\rangle}{\left\langle w_1,w_1 \right\rangle} w_1 - \frac{\left\langle v_3, w_2 \right\rangle}{\left\langle w_2,w_2 \right\rangle} w_2$
Come prima calcolo a parte:
$\left\langle v_3, w_1 \right\rangle = (1,0,1,0,1) \cdot (1,1,2,0,0) = 1+2 = 3$
$\left\langle v_3, w_2 \right\rangle = (1,0,1,0,1) \cdot (\frac{-2}{3},\frac{4}{3}, -\frac{5}{3}, 1,1) = -\frac{2}{3}-\frac{5}{3}+1=-\frac{4}{3} $
$\left\langle w_2,w_2 \right\rangle = (\frac{-2}{3},\frac{4}{3}, -\frac{5}{3}, 1,1) \cdot (\frac{-2}{3},\frac{4}{3}, -\frac{5}{3}, 1,1) = 7$
E quindi:
$ w_3 = (1,0,1,0,1) - \frac{3}{6} (1,1,2,0,0) - \frac{-4/3}{7} (\frac{-2}{3},\frac{4}{3}, -\frac{5}{3}, 1,1) = (\frac{47}{126}, -\frac{31}{126}, -\frac{20}{63}, \frac{4}{21}, \frac{25}{21})$
Noemi