定理:r(B^TB)=r(B)=r(B^T)对任意矩阵都成立.
证明:只需证明齐次线性方程组Bx=0与B^TBx=0同解,则由基础解系的理论知道有
n-r(B^TB)=n-r(B),即r(B^T)=r(B).
显然Bx=0的解都是B^TBx=0的解,再证B^TBx=0的解都是Bx=0的解.
令y=Bx,在B^TBx=0左乘x^T得
y^Ty=x^TB^TBx=0,因此0=y^Ty=y1^2+y2^2+...+ym^2,故y1=y2=...=ym=0,
即y=0,或者Bx=0,于是B^TBx=0的解都是Bx=0的解.
定理证毕.由这个定理,只需令题目中的A^T=B即得要证结论.