(1)
加法定理より sin(x−t)=sinxcost−cosxsint である。したがってfn+1(x)=2cosx+π2∫0πfn(t){sinxcost−cosxsint}dt=2cosx+bnsinx−ancosx=bnsinx+(2−an)cosxである。
ここで∫0πsin2xdx=∫0πcos2xdx=2π,∫0πsinxcosxdx=0である。よってan+1=π2∫0π{bnsinx+(2−an)cosx}sinxdx=bnであり、同様にbn+1=π2∫0π{bnsinx+(2−an)cosx}cosxdx=2−anである。したがって an+1=bn,bn+1=2−an である。
(2) cn=an−1 とおく。(1)より an+2=bn+1=2−an であるから cn+2=an+2−1=1−an=−(an−1)=−cn である。したがって cn+2=−cn が成り立つ。
また c1=a1−1,c2=a2−1=b1−1 である。cn+2=−cn より、m=0,1,2,… としてn4m+14m+24m+34m+4cna1−1b1−11−a11−b1である。
(3) an,bn が n によらない定数となるとする。その定数を a,b と書くと、(1)より a=b,b=2−a である。したがって a=b=1 であればよい。
例えば f(x)=sinx+cosx とする。このときa1b1=π2∫0π(sinx+cosx)sinxdx=1,=π2∫0π(sinx+cosx)cosxdx=1である。すると(1)の漸化式から an+1=bn=1,bn+1=2−an=1 が続くので、すべての n で an=bn=1 となる。よって条件を満たす関数の一例は f(x)=sinx+cosx である。