(1) P=(x,−1,z) とおく.
OA⊥OP より(−1,2,22)⋅(x,−1,z)=0すなわち
−x−2+22z=0.
また,OB⊥OP より(0,2,2)⋅(x,−1,z)=0だから
−2+2z=0.
よって
z=2
であり,これを代入して
−x−2+4=0
より
x=2.
したがって
P=(2,−1,2)
である.
次にAB=(1,0,−2),AP=(3,−3,−2)よりAB⋅AP=5.
また∣AB∣=3,∣AP∣=25.
したがってcos∠BAP=3⋅255=615.
三角形 ABP の面積は21∣AB∣∣AP∣sin∠BAP=21⋅3⋅25⋅1−(615)2=235.(2) Q=(x,y,z) とおく.AQ=BQ より(x+1)2+(y−2)2+(z−22)2=x2+(y−2)2+(z−2)2.
整理して2x−22z+7=0,x=2z−27.
さらに OQ=6 だから
x2+y2+z2=6.
これに代入するとy2=6−(2z−27)2−z2=1223−3(z−672)2.よって y2 の最大値は 1223,したがって y 座標の最大値は
669
である.このときz=672,x=2⋅672−27=−67.次に,x はx=2z−27,x2+z2≤6のもとで最大となる.これより(x+27)2/2+x2≤6すなわち
12x2+28x+1≤0.
したがって x の最大値は
6−7+46
である.
また,AQ=BQ の条件は平面
2x−22z+7=0
である.原点からこの平面までの距離は
237
なので,軌跡の円の半径 r はr=6−(237)2=1223=669.