Spiegare gentilmente i ragionamenti e argomentare.
Il sistema è impossibile se le equazioni delle rette che lo compongono rappresentano rette parallele e distinte.
Le rette nel sistema possono essere riscritte in una forma del tipo $ax+by+c=0$, la forma implicita dell'equazione di una retta. Nella forma esplicità il coefficiente angolare $m$ della retta indica il rapporto tra l'ordinata e l'ascissa di ogni punto sulla retta che se ci pensi è proprio la tangente dell'angolo che la retta forma con il semiasse positivo dell'asse $x$. Deduciamo che se i coefficienti angolari sono uguali, l'angolo con il semiasse positivo è uguale, allora sapendo che $m= -\frac{a}{b}$ nella forma implicita, poniamo
$-\frac{a}{2} = -\frac{b+1}{-1}$
$a = -2(b+1)$.
Questa è la condizione di parallelismo tra le rette, ma non è sufficiente, infatti due rette parallele possono anche essere coincidenti e a quel punto il sistema è indeterminato, allora poniamo l'intersezione con l'asse $y$ tradizionalmente indicata con $q$ diversa per entrambe le rette, quindi $q \neq q'$. Sapendo che genericamente $q = -\frac{c}{b}$
$\frac{b}{2} = \frac{a}{-1}$
$a = -\frac{b}{2}$, sostituiamo nella condizione di parallelismo per ottenere che:
$-\frac{b}{2} = -2(b+1)$
$b=4(b+1)$
$3b=-4$
$b=-\frac{4}{3}$
Quindi il sistema è impossibile quando $a=-2(b+1) \land b \neq -\frac{4}{3}$.
Nota: quello che abbiamo fatto alla fine è stato praticamente risolvere un secondo sistema:
$\begin{cases} -\frac{a}{2} = -\frac{b+1}{-1} \\ \frac{b}{2} = \frac{a}{-1} \end{cases}$, non l'ho impostato direttamente perché volevo spiegare il motivo di queste equazioni.
Un sistema lineare risulta impossibile quando un'equazione ha un lato nullo mentre l'altro risulta diverso da zero.
Nel nostro caso
$ \begin{cases} ax+2y=b \\ (b+1)x-y = a \end{cases} $
per riduzione. Moltiplichiamo per 2 la 2°
$ \begin{cases} ax+2y=b \\ 2(b+1)x-2y = 2a \end{cases} $
Sommiamo le due equazioni
$ a + 2(b+1)x = b+2a $
Per essere impossibile il coefficiente del lato sinistro lo supponiamo nullo mentre il lato destro deve essere diverso da zero.
i) $ a + 2(b+1) = 0 \; ⇒ \; a = -2(b+1)$
ii) $ b+2a \ne 0 \; ⇒ \; b+2(-2(b+1) \ne 0 \; ⇒ \; b \ne -\frac{4}{3} $