解: 构造4个方程的增广矩阵
1 -5 2 -3 11
-3 1 -4 2 -5
-1 -9 0 -4 17
5 3 6 -1 1
--因为题目要求, 所以在进行初等行变换的时候不要交换第4行
--并且不要用第4行去消1,2,3行
r2+3r1,r3+r1,r4-5r1
1 -5 2 -3 11
0 -14 2 -7 28
0 -14 2 -7 28
0 28 -4 14 -54
r3-r2,r4+2r2,r2*(-1/14),r1+5r2
1 0 9/7 -1/2 1
0 1 -1/7 1/2 -2
0 0 0 0 0
0 0 0 0 2
r4*(1/2)
1 0 9/7 -1/2 1
0 1 -1/7 1/2 -2
0 0 0 0 0
0 0 0 0 1
此时根据前3行得方程组的通解:
(1,-2,0,0)'+c1(-9,1,7,0)'+c2(1,-1,0,2).
并且由第4行得知满足方程组及条件的解不存在!