(1)
角 θ の回転によって (a,b) が (2,1) に移されるので、(a,b) は (2,1) を角 −θ だけ回転した点である。したがって(ab)=(cosθ−sinθsinθcosθ)(21)である。よって a=2cosθ+sinθ,b=−2sinθ+cosθ である。
(2)
直線 l の方向の単位ベクトルを e=(cosθ,sinθ) とし、それに垂直な単位ベクトルを n=(−sinθ,cosθ) とする。点 P(x,y) の位置ベクトルは p=(x,y) である。p を e 方向と n 方向に分けると p=(p⋅e)e+(p⋅n)n である。直線 l に関する対称移動では、e 方向成分はそのままで、n 方向成分だけ符号が変わる。したがって p′=(p⋅e)e−(p⋅n)n である。
これを成分で計算すると x′=xcos2θ+ysin2θ であり、y′=xsin2θ−ycos2θ である。よってこの移動を表す行列はAθ=(cos2θsin2θsin2θ−cos2θ)である。
直線 l 方向の成分を保ち、垂直成分だけ符号を反転する。
(3) x 軸に関する対称移動を表す行列はB=(100−1)である。またRθ=(cosθsinθ−sinθcosθ),Rθ−1=(cosθ−sinθsinθcosθ)である。したがってRθBRθ−1=(cosθsinθ−sinθcosθ)(100−1)(cosθ−sinθsinθcosθ)である。これを計算するとRθBRθ−1=(cos2θsin2θsin2θ−cos2θ)=Aθとなる。
(4)
(2) の結果を用いて計算する。加法定理によりAαAβ=(cos2(α−β)sin2(α−β)−sin2(α−β)cos2(α−β))である。これは角 2(α−β) の回転移動を表す行列である。
次に、これに Aγ を掛けるとAαAβAγ=(cos2(α−β+γ)sin2(α−β+γ)sin2(α−β+γ)−cos2(α−β+γ))となる。
これがある角 ϕ の回転移動を表すと仮定すると(cos2(α−β+γ)sin2(α−β+γ)sin2(α−β+γ)−cos2(α−β+γ))=(cosϕsinϕ−sinϕcosϕ)である。左上成分と右下成分を比べると cosϕ=−cosϕ となるので cosϕ=0 である。一方、右上成分と左下成分を比べると −sinϕ=sinϕ となるので sinϕ=0 である。これは sinϕ と cosϕ が同時に0になることを意味し、不可能である。したがって AαAβAγ は決して回転移動を表さない。
なお、幾何的には、Aθ は原点を通る直線に関する対称移動である。2つの対称移動を続けると、2つの対称軸のなす角の2倍だけ回転する移動になる。一方、3つの対称移動は「回転の後に対称移動」を行う形になるので、向きを反転する移動であり、向きを保つ回転移動にはならない。これは上の行列計算で得た反射型の行列と一致している。