由 tr(A) = tr(B), 1+4+a = 2+2+b, b = a+1
|A| = |B| , |A| =
| 1 0 0|
| 2 6 -4|
|-3 -6 a+3|
= 6(a+3-4) = 6(a-1) = 4b, 3(a-1) = 2b,
联立解得 a = 5, b = 6。
请自行解出 A 的特征值 λ = 2, 2, 6, 依次求出它们对应的特征向量 p1,p2,p3,
则 P = (p1,p2,p3), 满足 P^(-1)AP = B。