(1) 成分を用いて積を計算すると AB=(a−bc−da+2bc+2d),BA=(a+c−a+2cb+d−b+2d). AB=BA の成分条件から c=−b,d=a+b が得られる。そこで x=b,y=a−b とおけば A=(a−bba+b)=xB+yE.
(2) A2 を成分ごとに展開すると A2=(a2+bcc(a+d)b(a+d)bc+d2)=(a+d)A−(ad−bc)E=tA−ΔE. この式に A を左から掛けると A3=tA2−ΔA=t(tA−ΔE)−ΔA=(t2−Δ)A−tΔE. A3=E を用いて移項すれば (t2−Δ)A=(tΔ+1)E.
(3) (1)より A=xB+yE とする。このとき t=3x+2y,Δ=(x+y)(2x+y)+x2=3x2+3xy+y2, したがって t2−Δ=3(2x+y)(x+y). B と E は一次独立なので、(2)の係数比較から x(t2−Δ)=0,y(t2−Δ)=tΔ+1. x=0 なら A=yE であり A3=E より y=1、すなわち A=E。 x=0 なら t2−Δ=0 かつ tΔ+1=0 だから t3=−1、実数より t=−1。さらに (2x+y)(x+y)=0. 2x+y=0 のとき t=−x=−1 より (x,y)=(1,−2)。x+y=0 のとき t=x=−1 より (x,y)=(−1,1)。
これら二組では t=−1,Δ=1 なので、先に得た一般式 A3=(t2−Δ)A−tΔE から実際に A3=E となる。また A=xB+yE は B と可換である。よって解は E,B−2E=(−1−110),E−B=(01−1−1).