(1) OA=a,OB=b,OC=cとおく。正四面体なので∣a∣=∣b∣=∣c∣=1,a⋅b=b⋅c=c⋅a=21である。
各点の位置ベクトルはOD=ta,OE=32b,OF=31a+32cである。G は辺 BC 上にあるので OG=(1−u)b+uc とおく。 D,E,F,G が同一平面上にあるので DG=λDE+μDF と表せる。ここでDG=−ta+(1−u)b+uc,DE=−ta+32b,DF=(31−t)a+32cである。係数を比較して1−u=32λ,u=32μ,−t=−tλ+(31−t)μを得る。最初の2式から λ=23(1−u),μ=23u であり、これを3式目へ代入すると −2t=−3t(1−u)+(1−3t)u=−3t+u となる。したがって u=t である。よって OG=(1−t)OB+tOC である。
(2)
(1) よりEF=31a−32b+32cであり、EG=(31−t)b+tcである。内積関係を用いると ∣EF∣2=95, また∣EG∣2=(31−t)2+t2+(31−t)t=t2−31t+91である。さらに EF⋅EG=1812t−1 である。
したがって[△EFG]2=41(∣EF∣2∣EG∣2−(EF⋅EG)2)より [△EFG]2=129636t2−36t+19 である。平方根をとる前に、この二次式を最小にすればよい。平方完成すると 36t2−36t+19=36(t−21)2+10 である。0<t<1 で t=1/2 は許されるので、面積の最小値は 129610=3610 である。
図は t のある値での模式図である。D が OA 上を動くのに連動して、G は同じ内分比で BC 上を動く。