m=AP, n=BP, u=mn、c=cosθ とおく。点Pは半円内部なので2π<θ<π,c<0.余弦定理よりm2+n2=4+2uc.(1)円の中心をOとすると中線の公式から1−OP2=−uc.点Pの方べきよりm⋅PQ=n⋅PR=−uc.(2)五角形を三角形 PAB,PAR,PQB に分けると、(1),(2)からS=21sinθ{u−(m2+n2)c}=21sinθ{u(1−2c2)−4c}.(3)また(m−n)2=4−2u(1−c)≧0だから0<u≦1−c2.(4)上端は m=n のときにとり、下端0はPがAまたはBへ近づく極限で、とらない。
(1) 1−2c2≧0、すなわち π/2<θ≦3π/4 ではSはuとともに増加する。従って−sin2θ<S≦1−cosθsinθ(1−2cosθ)(2π<θ<43π).θ=3π/4 では S=1 である。
3π/4<θ<π ではSはuとともに減少するので1−cosθsinθ(1−2cosθ)≦S<−sin2θ.(2) 後半の角度範囲では −sin2θ≦1 である。前半で z=−cosθ とおくと、上端はM(z)=1+z1−z2(1+2z)(0<z≦21).微分すると最大はz=23−1で生じ、Mmax=63−9.一方SはPを端点へ近づけることで0へ近づくが、内部点なので0にはならない。従って全体の範囲は0<S≦63−9.