(1)
条件(ii)よりA(r1)=(ar+bcr+d)=s(r1)=(srs)である。したがって ar+b=sr,cr+d=s より b=r(s−a),d=s−cr である。P=(10r1)とおくとP−1=(10−r1)である。まずAP=(acbd)(10r1)=(acar+bcr+d)=(acsrs)である。よってB=P−1AP=(10−r1)(acsrs)=(a−crc0s)である。
(2)
B=P−1APであるから,繰り返し掛けると Bn=P−1AnP である。またP(10)=(10)である。したがってBn(10)=P−1AnP(10)=P−1An(10)となる。
条件(iii)よりAn(10)=(xnyn)であるから(znwn)=P−1(xnyn)=(10−r1)(xnyn)=(xn−rynyn)である。xn→0,yn→0なので zn=xn−ryn→0,wn=yn→0 である。
(3)
(1) の結果を用い,λ=a−cr とおく。このときB=(λc0s)である。Bn(1,0)T=(zn,wn)Tとし,便宜上z0=1,w0=0とおくと,(zn+1wn+1)=B(znwn)=(λznczn+swn)である。したがって zn+1=λzn,wn+1=czn+swn となる。特に zn=λn である。
(2) よりzn→0であるから ∣λ∣<1 である。
ここでc=0と仮定して矛盾を導く。上の漸化式からwn=c(λn−1+sλn−2+s2λn−3+⋯+sn−2λ+sn−1)である。両辺をsn−1で割るとsn−1wn=c{1+sλ+(sλ)2+⋯+(sλ)n−1}である。s>1かつ∣λ∣<1より sλ<1 なので,右辺は 1−λ/sc に近づく。この値はc=0なら0ではない。したがってwnはsn−1に比例する大きさをもち,0に近づくことはできない。これは(2)のwn→0に反する。
よってc=0である。このとき λ=a−cr=a であり,すでに∣λ∣<1が分かっているので c=0,∣a∣<1 である。