(1) J=(100−1)とおく。まず U(y)JU(−y) を直接計算する。U(−y)=(cosy−sinysinycosy) なのでU(y)JU(−y)=(cos2ysin2ysin2y−cos2y)である。
またA=2a+bI+2a−bJ,B=2a+bI−2a−bJである。ただし I は2次単位行列である。U(t)IU(−t)=I だから U(t)AU(−t)−B=2a−b{U(t)JU(−t)+J} である。
したがって f(x)=2a−bTr({U(t)JU(−t)+J}U(x)JU(−x)) である。ここで上の表示から Tr{U(t)JU(−t)U(x)JU(−x)}=2cos(2t−2x) であり、また Tr{JU(x)JU(−x)}=2cos2x である。よって f(x)=(a−b){cos(2t−2x)+cos2x} となる。和積公式より cos(2t−2x)+cos2x=2costcos(t−2x) だから f(x)=2(a−b)costcos(t−2x) である。 x が実数全体を動くとき、cos(t−2x) は −1 から 1 までの値をとる。また a≧b なので a−b≧0 である。したがって最大値は m(t)=2(a−b)∣cost∣ である。
(2)
まず、跡 Tr は対角成分の和なので Tr(U(t)AU(−t))=Tr(A)=a+b である。したがって Tr(U(t)AU(−t)+B)=2(a+b) である。
次に Tr(U(t)CU(−t)D) を計算する。C は対角行列なので、U(t)CU(−t) の対角成分は accos2t+bcsin2t,acsin2t+bccos2t である。D=(b1−c00a1−c) を右からかけた行列の対角成分の和をとるとTr(U(t)CU(−t)D)=b1−c(accos2t+bcsin2t)+a1−c(acsin2t+bccos2t)=(acb1−c+bca1−c)cos2t+(a+b)sin2tである。
(1) より m(t)=2(a−b)∣cost∣ であるから、示すべき不等式は 2{(acb1−c+bca1−c)cos2t+(a+b)sin2t} ≧2(a+b)−2(a−b)∣cost∣ と同値である。両辺を2で割り、u=∣cost∣(0≦u≦1) とおくと、cos2t=u2、sin2t=1−u2 だから (acb1−c+bca1−c)u2+(a+b)(1−u2)≧(a+b)−(a−b)u を示せばよい。左辺から右辺を引くと u{(a−b)+u(acb1−c+bca1−c−a−b)} である。
ここで X=acb1−c+bca1−c−a−b とおく。a≧b>0、0≦c≦1 より acb1−c=b(ba)c≧b であり、同様に bca1−c=b(ba)1−c≧b である。 X≧0 のときは (a−b)+uX≧a−b≧0 である。X<0 のときは、0≦u≦1 だから uX≧X であり、(a−b)+uX≧(a−b)+X である。右辺は (a−b)+X=acb1−c+bca1−c−2b であり、上で示した2つの不等式からこれは0以上である。
したがって、どちらの場合も (a−b)+uX≧0 である。さらに u≧0 だから u{(a−b)+uX}≧0 となる。よって、すべての実数 t に対して 2Tr(U(t)CU(−t)D)≧Tr(U(t)AU(−t)+B)−m(t) が成り立つ。