問題
正八角形について，以下の問いに答えよ。
(1) 3個の頂点を結んでできる三角形のうち，直角三角形であるものの個数を求めよ。
(2) 3個の頂点を結んでできる三角形のうち，直角三角形でも二等辺三角形でもないものの個数を求めよ。
(3) 4個の頂点を結んでできる四角形のうち，次の条件(＊)を満たすものの個数を求めよ。
(＊) 四角形の4個の頂点から3点を選んで直角三角形を作れる。
方針
解法1（直径を軸に包除原理で数える方法）
正八角形の頂点は同一円周上にあるので，直角三角形は「直径を一辺にもつ三角形」として数える。(2) では全三角形から直角三角形と二等辺三角形を除き，直角二等辺三角形を重複補正する。(3) の条件は，4頂点の中に向かい合う2頂点，すなわち直径の両端が含まれることと同値である。直径を選んで数える方法に加え，直径を1本も含まない4頂点を補集合として数える別解も使える。
解法2（四角形を補集合で数える方法）
(1)(2) は円周角と二等辺三角形の頂点を固定して数える。(3) は条件を満たさない4頂点、すなわち4組の対頂点から片方ずつ選ぶ場合を補集合として数える。
解答
解法1（直径を軸に包除原理で数える方法）
(1)
円周上の3点でできる三角形が直角三角形であるための条件は，その三角形の1辺が外接円の直径であることである。正八角形には向かい合う頂点の組，すなわち直径の両端となる組が 組ある。直径の両端を選んだあと，残り1点はその2点以外の6個の頂点から選べる。したがって直角三角形の個数は である。
(2)
3個の頂点の選び方は 通りである。
二等辺三角形を数える。頂角となる頂点を1つ固定すると，その左右に同じだけ離れた2頂点を選べばよい。距離は1つ隣，2つ隣，3つ隣の3通りであるから，二等辺三角形は 通りである。この数え方では正三角形のような重複は起こらない。
直角三角形かつ二等辺三角形であるものは，直径の両端を斜辺にし，残りの頂点がその中間方向にある場合である。各直径に対して2通りあるので 通りである。
よって，直角三角形でも二等辺三角形でもないものの個数は である。
(3)
条件(＊)を満たすとは，選んだ4頂点の中のある3点が直角三角形を作ることである。これは，選んだ4頂点の中に向かい合う2頂点，すなわち直径の両端が含まれることと同値である。
直径を1本選ぶ方法は4通りである。残りの2頂点は，その直径の両端を除いた6頂点から選べるので 通りである。ただし，2本の直径を含む4頂点は，どちらの直径を先に選んだかで2回数えられている。2本の直径の選び方は 通りであるから，求める個数は である。
解法2（四角形を補集合で数える方法）
(1)
正八角形の頂点からできる直角三角形は、斜辺が外接円の直径である。直径は4本あり、残りの頂点は6通りだから
個である。
(2)
三角形の総数は 個である。二等辺三角形は頂点を8通り、その左右へ同じ歩数だけ進んだ底角の2頂点を3通りに選べるので24個である。直角三角形も(1)より24個であり、両方に数えられる直角二等辺三角形は各直径につき2個、計8個である。したがって
個である。
(3)
条件を満たさないのは、選んだ4頂点の中に直径の両端が1組もない場合である。向かい合う頂点の組は4組あり、4頂点を選ぶには各組からちょうど1点ずつ選ばなければならない。その選び方は 通りである。全四角形は 個だから
個である。