u=(1,3,23) とする。
(1) OA⋅u=163,
∣OA∣=46,∣u∣=4 より
cos∠AOH=1/2。したがって ∠AOH=π/4。
(2) OH=OAcos(π/4)=43 なので,OH=(OH/∣u∣)u=3u。よって H=(3,3,6)。
(3) 底面は u に垂直で H を通る。
(3,y,z)−H と u の内積を0とすると
y+2z−15=0。
(4) 側面上の点 Q=(3,y,z) では
∠QOH=π/4。内積条件を2乗して整理すると5y2−12yz−4z2−6y−12z+21=0.z が最大となるのは底面の円周上であるから,
y=−2z+15 を代入する。得られる
5z2−60z+132=0 の大きい解より,zmax=6+5415。