|A-λE|=
5-λ 0 2
0 5-λ 2
2 3 2-λ
r1-r2
5-λ λ-5 0
0 5-λ 2
2 3 2-λ
c2+c1
5-λ 0 0
0 5-λ 2
2 5 2-λ
= (5-λ)[(5-λ)(2-λ)-10]
= (5-λ)(λ-7)λ
所以A的特征值为5,7,0.
(A-5E)x=0 的基础解系为 a1=(3,-2,0)^T
(A-7E)x=0 的基础解系为 a2=(1,1,1)^T
Ax=0 的基础解系为 a3=(2,2,-5)^T
令P=(a1,a2,a3)=
3 1 2
-2 1 2
0 1 -5
则P可逆,且P^-1AP = diag(5,7,0).