(1)
直線ABの方向ベクトルは AB=B−A=(3−2,4−6)=(1,−2) である.点Cは直線AB上にあるので,実数uを用いて C=A+uAB=(2,6)+u(1,−2)=(2+u,6−2u) と表せる.さらにOC⊥ABだから (2+u,6−2u)⋅(1,−2)=0 である.これを解くと 2+u−2(6−2u)=0,5u−10=0,u=2 となる.したがって C=(4,2) である.
また OP=s(2,6)+t(3,4)=(2s+3t,6s+4t) なので P=(2s+3t,6s+4t) である.よって CP=(2s+3t−4,6s+4t−2) であり,∣CP∣2=(2s+3t−4)2+(6s+4t−2)2=40s2+60st−40s+25t2−40t+20である.したがって ∣CP∣2=40s2+60st−40s+25t2−40t+20 である.
(2) s=1/2を代入すると∣CP∣2=40(21)2+60(21)t−40(21)+25t2−40t+20=25t2−10t+10である.平方完成すると 25t2−10t+10=25(t−51)2+9 である.頂点t=1/5はt≧0を満たすので,最小値は 9 である.
(3) s=1を代入すると ∣CP∣2=25t2+20t+20 である.平方完成すると 25t2+20t+20=25(t+52)2+16 であり,頂点はt=−2/5である.これは条件t≧0の範囲外にある.二次関数は上に開くので,t≧0では端点t=0で最小となる.よって最小値は 20 である.
垂線の足 C とベクトルの配置