問題
空間の8点
を頂点とする直方体OABC-DEFGを考える，点O，点F，辺AE上の点P，および辺CG上の点Qの4点が同一平面上にあるとする．このとき，四角形OPFQの面積Sを最小にするような点Pおよび点Qの座標を求めよ．また，そのときのSの値を求めよ．
方針
解法1（共面条件と外積で平行四辺形を最小化する）
辺上の点を とおく。平面が原点を通るので， が同一平面上にある条件は が の一次結合で表されることと考えればよく，ここから が出る。さらに となるため四角形 は平行四辺形である。面積は隣り合う2辺 の長さと内積から で求め， の2次式を最小化する。
解法2（平面方程式と対角線の外積を使う）
4点を含む平面を原点を通る一般形で表し，辺 との交点条件から の高さの和を求める。四角形は平行四辺形になるので，2本の対角線の外積の半分として面積を計算し，平方完成する。
解答
解法1（共面条件と外積で平行四辺形を最小化する）
点 は辺 上にあり，点 は辺 上にあるので とおける。ただし である。
平面が を通るので， が同一平面上にあることは， が の一次結合で表されることと同値である。すなわち，ある実数 があって となればよい。座標で書くと である。第1，第2座標から となるので，第3座標より である。したがって である。
このとき である。よって四角形 は平行四辺形である。
隣り合う辺を と見る。平行四辺形の面積 について
である。ここで
だから
である。
この2次式は である。したがって最小となるのは のときであり，このとき である。よって であり，最小値は である。
解法2（平面方程式と対角線の外積を使う）
とおく。4点を含む平面は を通るので
と書ける。 を代入すると
である。最初の2式を最後の式へ代入して を得る。平面なので だけが残ることはなく，したがって
である。
このとき だから は平行四辺形である。対角線は
であり，平行四辺形の面積は
である。 を代入して計算すると
となる。よって のとき最小であり，
である。両点の高さは を満たす。