解答(行列計算による証明) A=41(5335) とし,R(θ)=(cosθsinθ−sinθcosθ) とおく。c=cosθ, s=sinθ とすれば AR(θ)=41(5c+3s3c+5s−5s+3c−3s+5c).
(1) AR(θ)=R(θ)diag(a,b) の第1列を比べると 5c+3s=4ac,3c+5s=4as. ここで c,s はともに正である。実際,c=0 または s=0 を上式に代入すると矛盾する。a を消去すると s(5c+3s)=c(3c+5s),従って s2=c2。c,s>0 だから c=s=1/2,すなわち θ=π/4。上の積の第1列から a=2。第2列を比べれば b=1/2。従って A=R(π/4)DR(π/4)T,D=diag(2,1/2).
(2) R(π/4)T=R(π/4)−1 なので,正整数 n について An+(A−1)n=R(π/4)(2n+2−n002−n+2n)R(π/4)T=(2n+2−n)I.
(3) A=B2 とする。このとき AB=B2B=B3=BB2=BA。C=R(π/4)TBR(π/4)=(prqs) とおけば,AB=BA は DC=CD と同値である。成分を比べると DC=(2pr/22qs/2),CD=(2p2rq/2s/2), 従って q=r=0。ゆえに C=diag(p,s) であり,C2=D から p2=2, s2=1/2。よって全ての解は B=R(π/4)diag(ε2,δ/2)R(π/4)T,ε,δ はそれぞれ 1 または −1.