(1) 点 D D は辺 O A O A の延長上にあるから,O D → = s a ⃗ O D = s a とおける。するとC D → = s a ⃗ − c ⃗ C D = s a − c である。O C → ⊥ C D → O C ⊥ C D よりc ⃗ ⋅ ( s a ⃗ − c ⃗ ) = 0 c ⋅ ( s a − c ) = 0 である。∣ c ⃗ ∣ = 1 ∣ c ∣ = 1 ,a ⃗ ⋅ c ⃗ = cos α a ⋅ c = cos α だからs cos α − 1 = 0 s cos α − 1 = 0 となり,s = 1 cos α s = cos α 1 である。よってC D → = 1 cos α a ⃗ − c ⃗ C D = cos α 1 a − c である。同様にC E → = 1 cos β b ⃗ − c ⃗ C E = cos β 1 b − c である。
(2) (1)よりC D → ⋅ C E → = a ⃗ ⋅ b ⃗ cos α cos β − a ⃗ ⋅ c ⃗ cos α − b ⃗ ⋅ c ⃗ cos β + c ⃗ ⋅ c ⃗ C D ⋅ C E = cos α cos β a ⋅ b − cos α a ⋅ c − cos β b ⋅ c + c ⋅ c である。したがってC D → ⋅ C E → = cos γ cos α cos β − 1 = cos γ − cos α cos β cos α cos β C D ⋅ C E = cos α cos β cos γ − 1 = cos α cos β cos γ − cos α cos β である。また∣ C D → ∣ 2 = 1 cos 2 α − 1 = tan 2 α , ∣ C E → ∣ 2 = 1 cos 2 β − 1 = tan 2 β ∣ C D ∣ 2 = cos 2 α 1 − 1 = tan 2 α , ∣ C E ∣ 2 = cos 2 β 1 − 1 = tan 2 β である。0 < α , β < π 2 0 < α , β < 2 π より長さは正だから,cos θ = C D → ⋅ C E → ∣ C D → ∣ ∣ C E → ∣ = cos γ − cos α cos β sin α sin β cos θ = ∣ C D ∣∣ C E ∣ C D ⋅ C E = sin α sin β cos γ − cos α cos β である。
(3) 点 D , E D , E はそれぞれ直線 O A , O B O A , O B 上にあるので,平面 D O E D O E は平面 O A B O A B と同じである。平面 O A B O A B を x y x y 平面とし,a ⃗ = ( 1 , 0 , 0 ) , b ⃗ = ( cos γ , sin γ , 0 ) a = ( 1 , 0 , 0 ) , b = ( cos γ , sin γ , 0 ) とおく。c ⃗ = ( u , v , w ) c = ( u , v , w ) とすると,a ⃗ ⋅ c ⃗ = cos α a ⋅ c = cos α よりu = cos α u = cos α である。また b ⃗ ⋅ c ⃗ = cos β b ⋅ c = cos β よりu cos γ + v sin γ = cos β u cos γ + v sin γ = cos β である。cos γ = cos α cos β cos γ = cos α cos β を用いるとv = cos β − cos α cos γ sin γ = cos β sin 2 α sin γ v = sin γ cos β − cos α cos γ = sin γ cos β sin 2 α である。さらに β = π 2 − α β = 2 π − α だから cos β = sin α cos β = sin α であり,u = cos α , v = sin 3 α sin γ u = cos α , v = sin γ sin 3 α となる。
∣ c ⃗ ∣ = 1 ∣ c ∣ = 1 なので,点 C C から平面 O A B O A B までの距離はC P = ∣ w ∣ = 1 − u 2 − v 2 C P = ∣ w ∣ = 1 − u 2 − v 2 である。ここで cos γ = sin α cos α > 0 cos γ = sin α cos α > 0 であるからC P 2 = 1 − cos 2 α − sin 6 α sin 2 γ = sin 2 α ( sin 2 γ − sin 4 α ) sin 2 γ = sin 2 α cos 2 α sin 2 γ = cos 2 γ sin 2 γ C P 2 = 1 − cos 2 α − sin 2 γ sin 6 α = sin 2 γ sin 2 α ( sin 2 γ − sin 4 α ) = sin 2 γ sin 2 α cos 2 α = sin 2 γ cos 2 γ である。よってC P = cos γ sin γ = 1 tan γ C P = sin γ cos γ = tan γ 1 である。