(1) X=(uwvz)とおく。積を順に展開するとAX=(10a2)(uwvz)=(u+aw2wv+az2z)であり,XA=(uwvz)(10a2)=(uwau+2vaw+2z)である。したがってAX−XA=(awwaz−au−v−aw)である。
これが零行列であるから w=0,v=a(z−u) である。よってX=(u0a(z−u)z)と書ける。
ここで t=z−u,s=2u−z とおくとsE+tA=s(1001)+t(10a2)=(s+t0tas+2t)である。上の s,t を代入すると s+t=(2u−z)+(z−u)=u, ta=a(z−u), s+2t=(2u−z)+2(z−u)=z だから sE+tA=X である。よって示された。
(2) Y=(uwvz)とおく。AY と kYA の各成分を比較すると AY−kYA=O は次の4本の式と同値である。 (1−k)u+aw=0, (1−2k)v+az−kau=0, (2−k)w=0, −kaw+2(1−k)z=0. まず k=2 とする。このとき第1式から −u+aw=0 なので u=aw である。また第4式から −2aw−2z=0 なので z=−aw である。第2式は −3v+az−2au=0 であり,上の u,z を代入すると −3v−a2w−2a2w=0 だから v=−a2w である。したがってY=w(a1−a2−a)である。Y=O であるためには w=0 が必要であり,このとき確かに非零行列になる。
次に k=2 とする。第3式より w=0 である。問題文より k=1 でもあるから,第1式と第4式から u=0,z=0 である。すると第2式は (1−2k)v=0 となる。非零行列 Y を得るには v=0 でなければならないので 1−2k=0 すなわち k=21 である。このときY=(00v0)(v=0)がすべての解である。
以上より,求める組はk=2,Y=w(a1−a2−a)(w=0)またはk=21,Y=(00v0)(v=0)である。