(1)
点 (a,f(a)) と原点を結ぶ直線は y=af(a)x であり、点 (2a,f(2a)) と原点を結ぶ直線は y=2af(2a)x である。 f は正で単調減少だから、0≦x≦a では曲線 y=f(x) は2直線より上にあり、囲まれる部分の境界は2本の直線である。また a≦x≦2a では、曲線 y=f(x) が直線 y=f(2a)x/(2a) より上にある。よって面積 A(a) はA(a)=∫0a(af(a)x−2af(2a)x)dx+∫a2a(f(x)−2af(2a)x)dxである。
第1項は 2af(a)−4af(2a) であり、第2項は S(a)−2af(2a)⋅2(2a)2−a2=S(a)−43af(2a) である。したがって A(a)=S(a)+2af(a)−af(2a) である。問題の条件より A(a)=3S(a) だから S(a)+2af(a)−af(2a)=3S(a) であり f(a)−2f(2a)=a4S(a) を得る。
一方、S(x)=∫x2xf(t)dt であるから S′(x)=2f(2x)−f(x) である。先ほどの式より 2f(2x)−f(x)=−x4S(x) なので S′(x)=−x4S(x) である。よって S(x)S′(x)=−x4 となり、S(x)=Cx−4 である。S(1)=1 より C=1 だから S(x)=x41 である。また f(x)−2f(2x)=x4S(x) より f(x)−2f(2x)=x54 である。
(2) hn(t)=2nf(2nt) とおく。f は単調減少なので、hn(t) も t の単調減少関数である。すると∫x2xhn(t)dt=∫x2x2nf(2nt)dt=∫2nx2n+1xf(u)du=S(2nx)である。(1)より S(2nx)=(2nx)41=24nx41 である。
また、hn は単調減少で正だから 0≦xhn(2x)≦∫x2xhn(t)dt=24nx41 である。したがって hn(2x)→0 である。x>0 は任意なので、任意の正の数 y について 2nf(2ny)→0 となる。すなわち a(y)=0 である。
よって、求める積分は ∫x2xa(t)dt=0 である。
(3) g(x)=xf(x) とおく。(1)の f(x)−2f(2x)=x54 に x を掛けると xf(x)−2xf(2x)=x44 である。左辺は g(x)−g(2x) だから g(x)−g(2x)=4x−4 である。
これを繰り返すと、任意の正整数 N について g(x)=g(2Nx)+4x−4(1+2−4+2−8+⋯+2−4(N−1)) である。
(2)
より g(2Nx)=2Nxf(2Nx)=x{2Nf(2Nx)}→xa(x)=0 である。したがって N→∞ とするとg(x)=4x−4⋅1−2−41=4x−4⋅1516=1564x−4である。よって xf(x)=1564x−4 となり f(x)=15x564 を得る。
実際、この関数は正で単調減少であり、∫x2x15t564dt=x41 を満たすので、(1)で得た条件とも一致する。