a) Escribimos la matriz ampliada . Ahora estudiamos el rango de la matriz de los coeficientes. Para ello tenemos en cuenta que ya hay un menor de orden 2 distinto de cero . Este paso incluso nos lo podíamos haber ahorrado englobándolo en el siguiente.

Ahora hallamos el determinante de la matriz de los coeficientes: y vemos que, independientemente del valor de m, la matriz de los coeficientes siempre tiene de rango 2.

A continuación hallamos el rango de la matriz ampliada. Para ello tomamos las filas y columnas en donde estaba comprendido el menor de orden 2 distinto de cero y lo ampliamos con la otra fila y la columna de los términos independientes. Así tenemos:

.

Si igualamos a cero, ese determinante se anulará cuando –m² – m = 0, es decir, cuando –m(m + 1) = 0 que es lo mismo que decir que cuando m = 0 ó m = –1. Por lo tanto, si m fuese distinto de 0 y de –1, el rango de la matriz ampliada sería 3 y el sistema sería incompatible, y sólo será compatible si m = 0 ó m = –1.

b) Ahora nos piden resolver el sistema que ya sabemos que es compatible indeterminado. En concreto podemos ver que la tercera ecuación es la misma que la segunda cambiada de signo.

Para resolver, y como el rango del sistema es 2, basta elegir dos ecuaciones que sean independientes y despejar dos cualesquiera de las incógnitas en función de la tercera.

Elegimos las dos primeras ecuaciones. De la primera sacamos que y = –x. Si eso lo sustituimos en la segunda nos queda x + x + z = 1, de donde despejando sería z = 1 – 2x.

La solución sería por tanto los infinitos valores x, y, z que cumplen y=-x; z=1-2x.

A veces se suele utilizar un parámetro y entonces la solución sería , donde el último símbolo raro significa para todo, es decir, nos dice que para cualquier valor que sustituyamos en t nos da una solución del sistema.

a) Tomamos la matriz ampliada. ahora realizamos las siguientes transformaciones:

A la segunda fila le restamos la primera multiplicada por 2 y a la tercera le restamos la primera. De esa forma obtenemos:

Como podemos apreciar, si t – 2 es distinto de 0, es decir, t es distinto de 2, obtenemos tres filas con valores distintos de cero, luego el rango de la matriz de los coeficientes y la ampliada valen 3 y el sistema sería compatible determinado. Pero si t toma el valor 2 quedaría la matriz que corresponde a un sistema incompatible.

b) El apartado b es aún más fácil pues basta sustituir t por 1 en la matriz anterior. De la matriz basta reconstruir el sistema y resolviendo de abajo hacia arriba sale la solución z = 0 ; y = –2 ; x = 2.

De la matriz pasamos a restándole a la tercera fila las dos primeras.

Estudiemos el resultado. El determinante de la matriz de los coeficientes es distinto de cero siempre que sea k distinto de cero y de uno. En esos casos el sistema es compatible determinado. Veamos entonces que pasa cuando k = 0 ó k = 1.

Para k = 0 nos quedaría la matriz . En este caso el sistema es compatible indeterminado.

Para k = 1 queda y en este caso es cuando el sistema es incompatible.

b) En el apartado segundo sustituimos z por 2 en el sistema y nos queda:

Vamos a suponer que k es distinto de cero, entonces podemos dividir por él y el sistema tendría que cumplir en las dos primeras ecuaciones :

Para que eso cumpla, la tercera ecuación debe cumplir:

de donde, reordenando, nos queda la ecuación k² – 2k = 0 que se cumple para k = 0 (imposible pues no tendría sentido el haber dividido por k) y para k = 2. Por lo tanto la solución del sistema sería, tomando k = 2: x = 2; y = –1; z = 2.

Nos falta ver que ocurre si k = 0. Pero en ese caso el sistema queda reducido a y vemos que la segunda ecuación no tiene sentido.

Otra forma de resolver esta segunda parte sería partir de la matriz ampliada a escalonada del principio. Resolveríamos el sistema asociado:

que es compatible determinado si k no es ni 0 ni 1.

Lo resolvemos "de abajo arriba", suponiendo que estamos en uno de estos casos:

Para que z = 2, la primera de las expresiones anteriores debe ser 2:

Lo que conduce a los mismo resultados que antes.