(1) 座標をO = ( 0 , 0 , 0 ) , A = ( 1 , 0 , 0 ) , C = ( 0 , 1 , 0 ) O = ( 0 , 0 , 0 ) , A = ( 1 , 0 , 0 ) , C = ( 0 , 1 , 0 ) とおく.すると O A → ⋅ O C → = 0 O A ⋅ O C = 0 であり,条件に合う. 点 B = ( x , y , z ) B = ( x , y , z ) とおくと,O A → ⋅ O B → = x = 1 2 , O C → ⋅ O B → = y = 1 2 O A ⋅ O B = x = 2 1 , O C ⋅ O B = y = 2 1 よりB = ( 1 2 , 1 2 , z ) B = ( 2 1 , 2 1 , z ) である.また∣ O B → ∣ 2 = 3 2 ∣ O B ∣ 2 = 2 3 だから( 1 2 ) 2 + ( 1 2 ) 2 + z 2 = 3 2 ( 2 1 ) 2 + ( 2 1 ) 2 + z 2 = 2 3 よりz 2 = 1 z 2 = 1 である.平面 O A C O A C は z = 0 z = 0 の平面なので,H H は B B の射影でありH = ( 1 2 , 1 2 , 0 ) H = ( 2 1 , 2 1 , 0 ) である.したがってO H → = 1 2 O A → + 1 2 O C → O H = 2 1 O A + 2 1 O C かつ∣ B H → ∣ = 1 ∣ B H ∣ = 1 である.
(2) 底面 O A C O A C は直角三角形で,面積 = 1 2 ∣ O A ∣ ∣ O C ∣ = 1 2 面積 = 2 1 ∣ O A ∣ ∣ O C ∣ = 2 1 である.高さは (1) より ∣ B H ∣ = 1 ∣ B H ∣ = 1 だから,四面体の体積は1 3 × 1 2 × 1 = 1 6 3 1 × 2 1 × 1 = 6 1 である.
(3) P P を O A O A 上の点としてP = ( t , 0 , 0 ) ( 0 ≤ t ≤ 1 ) P = ( t , 0 , 0 ) ( 0 ≤ t ≤ 1 ) とおく.また,Q Q を辺 B C B C 上でQ = B + s ( C − B ) Q = B + s ( C − B ) とおくと,Q = ( 1 − s 2 , 1 + s 2 , z ( 1 − s ) ) Q = ( 2 1 − s , 2 1 + s , z ( 1 − s ) ) である. 直線 P Q P Q が O A O A に垂直であるから,P Q P Q の x x 成分は 0 0 でなければならない.よって1 − s 2 − t = 0 2 1 − s − t = 0 すなわちt = 1 − s 2 t = 2 1 − s である. さらに P Q ⊥ B C P Q ⊥ B C より( Q − P ) ⋅ ( C − B ) = 0 ( Q − P ) ⋅ ( C − B ) = 0 である.ここでC − B = ( − 1 2 , 1 2 , − z ) C − B = ( − 2 1 , 2 1 , − z ) だから( 0 , 1 + s 2 , z ( 1 − s ) ) ⋅ ( − 1 2 , 1 2 , − z ) = 0 ( 0 , 2 1 + s , z ( 1 − s ) ) ⋅ ( − 2 1 , 2 1 , − z ) = 0 1 + s 4 − ( 1 − s ) = 0 4 1 + s − ( 1 − s ) = 0 よりs = 3 5 s = 5 3 である.したがってt = 1 − s 2 = 1 5 t = 2 1 − s = 5 1 となる.よってO P = 1 5 O A O P = 5 1 O A である.
次に,四面体 P A B Q P A B Q の体積を求める.P , A , B P , A , B を通る平面は 2 y − z = 0 2 y − z = 0 であるから,Q Q からこの平面までの距離は∣ 2 ⋅ 4 5 − 2 5 ∣ 5 = 6 5 5 5 ∣2 ⋅ 5 4 − 5 2 ∣ = 5 5 6 である.また,底面 P A B P A B の面積は1 2 ⋅ 4 5 ⋅ 5 2 = 5 5 2 1 ⋅ 5 4 ⋅ 2 5 = 5 5 である.したがってV P A B Q = 1 3 ⋅ 5 5 ⋅ 6 5 5 = 2 25 V P A B Q = 3 1 ⋅ 5 5 ⋅ 5 5 6 = 25 2 である.ゆえに体積比はV P A B Q V O A B C = 2 / 25 1 / 6 = 12 25 V O A B C V P A B Q = 1/6 2/25 = 25 12 である.