(1) 正方形を A ( 0 , 1 ) , B ( 0 , 0 ) , C ( 1 , 0 ) , D ( 1 , 1 ) A ( 0 , 1 ) , B ( 0 , 0 ) , C ( 1 , 0 ) , D ( 1 , 1 ) とおく。B P = t B P = t とすると,P = ( t , 0 ) P = ( t , 0 ) であり,まず 0 < t < 1 0 < t < 1 である。 Q = ( 1 , q ) Q = ( 1 , q ) とおく。∠ A P B ∠ A P B は,点 P P から見て左向きの水平線 P B P B と P A P A のなす角であるから tan ∠ A P B = 1 t tan ∠ A P B = t 1 である。また ∠ Q P C ∠ QP C は右向きの水平線 P C P C と P Q P Q のなす角なので tan ∠ Q P C = q 1 − t tan ∠ QP C = 1 − t q である。角が等しいから q 1 − t = 1 t , q = 1 − t t 1 − t q = t 1 , q = t 1 − t となる。Q Q が辺 C D C D 上の頂点でない点であるためには 0 < q < 1 0 < q < 1 すなわち t > 1 2 t > 2 1 が必要である。
次に R = ( r , 1 ) R = ( r , 1 ) とおく。点 Q Q で,Q C QC は下向きの垂直線,Q D Q D は上向きの垂直線である。したがって tan ∠ P Q C = 1 − t q = t , tan ∠ P QC = q 1 − t = t , また tan ∠ R Q D = 1 − r 1 − q tan ∠ R Q D = 1 − q 1 − r である。角が等しいので 1 − r 1 − q = t 1 − q 1 − r = t である。q = ( 1 − t ) / t q = ( 1 − t ) / t を代入すると 1 − q = 1 − 1 − t t = 2 t − 1 t 1 − q = 1 − t 1 − t = t 2 t − 1 だから 1 − r = t ⋅ 2 t − 1 t = 2 t − 1 , r = 2 − 2 t 1 − r = t ⋅ t 2 t − 1 = 2 t − 1 , r = 2 − 2 t である。
最後に S = ( 0 , s ) S = ( 0 , s ) とおく。点 R R で,R D R D は右向きの水平線,R A R A は左向きの水平線である。上と同様に tan ∠ Q R D = 1 − q 1 − r , tan ∠ S R A = 1 − s r tan ∠ QR D = 1 − r 1 − q , tan ∠ S R A = r 1 − s である。角が等しいので 1 − q 1 − r = 1 − s r 1 − r 1 − q = r 1 − s である。ここで 1 − q = 2 t − 1 t , 1 − r = 2 t − 1 , r = 2 − 2 t 1 − q = t 2 t − 1 , 1 − r = 2 t − 1 , r = 2 − 2 t だから 1 − q 1 − r = 1 t 1 − r 1 − q = t 1 となり,1 − s r = 1 t , s = 1 − r t = 1 − 2 − 2 t t = 3 − 2 t r 1 − s = t 1 , s = 1 − t r = 1 − t 2 − 2 t = 3 − t 2 である。S S が辺 A B A B 上の頂点でない点であるためには 0 < s < 1 0 < s < 1 である。すなわち 0 < 3 − 2 t < 1 0 < 3 − t 2 < 1 であり,これを解いて 2 3 < t < 1 3 2 < t < 1 を得る。
(2) 直線 A P A P は y = 1 − x t y = 1 − t x である。また R = ( 2 − 2 t , 1 ) R = ( 2 − 2 t , 1 ) ,S = ( 0 , 3 − 2 / t ) S = ( 0 , 3 − 2/ t ) だから,直線 R S R S の傾きは 1 − ( 3 − 2 / t ) 2 − 2 t = 1 t 2 − 2 t 1 − ( 3 − 2/ t ) = t 1 であり,y = 3 − 2 t + x t y = 3 − t 2 + t x と書ける。交点 T T は 1 − x t = 3 − 2 t + x t 1 − t x = 3 − t 2 + t x を満たすので x = 1 − t , y = 2 − 1 t x = 1 − t , y = 2 − t 1 である。したがって T = ( 1 − t , 2 − 1 t ) T = ( 1 − t , 2 − t 1 ) である。
四角形 P Q R T P QR T の頂点をこの順に並べ,座標による面積公式を用いる。すなわちP = ( t , 0 ) , Q = ( 1 , 1 − t t ) , R = ( 2 − 2 t , 1 ) , T = ( 1 − t , 2 − 1 t ) P = ( t , 0 ) , Q = ( 1 , t 1 − t ) , R = ( 2 − 2 t , 1 ) , T = ( 1 − t , 2 − t 1 ) として計算する。2 3 < t < 1 3 2 < t < 1 ではこの順にたどる向きで正の面積が得られるので,2 f ( t ) = t ⋅ 1 − t t + 1 ⋅ 1 + ( 2 − 2 t ) ( 2 − 1 t ) + ( 1 − t ) ⋅ 0 − { 0 ⋅ 1 + 1 − t t ( 2 − 2 t ) + 1 ⋅ ( 1 − t ) + ( 2 − 1 t ) t } = 4 ( 1 − t ) ( 2 t − 1 ) t . 2 f ( t ) = t ⋅ t 1 − t + 1 ⋅ 1 + ( 2 − 2 t ) ( 2 − t 1 ) + ( 1 − t ) ⋅ 0 − { 0 ⋅ 1 + t 1 − t ( 2 − 2 t ) + 1 ⋅ ( 1 − t ) + ( 2 − t 1 ) t } = t 4 ( 1 − t ) ( 2 t − 1 ) . したがって f ( t ) = 2 ( 1 − t ) ( 2 t − 1 ) t f ( t ) = t 2 ( 1 − t ) ( 2 t − 1 ) である。
これを f ( t ) = 6 − 4 t − 2 t f ( t ) = 6 − 4 t − t 2 と書くと f ′ ( t ) = − 4 + 2 t 2 = 2 ( 1 − 2 t 2 ) t 2 f ′ ( t ) = − 4 + t 2 2 = t 2 2 ( 1 − 2 t 2 ) である。したがって f ′ ( t ) = 0 f ′ ( t ) = 0 となるのは t = 1 2 t = 2 1 であり,これは 2 3 , 1 3 2 , 1 に含まれる。また f ′ ( t ) > 0 f ′ ( t ) > 0 は t < 1 / 2 t < 1/ 2 ,f ′ ( t ) < 0 f ′ ( t ) < 0 は t > 1 / 2 t > 1/ 2 であるから,この点で最大となる。最大値は f ( 1 2 ) = 6 − 4 ⋅ 1 2 − 2 2 = 6 − 4 2 f ( 2 1 ) = 6 − 4 ⋅ 2 1 − 2 2 = 6 − 4 2 である。よって 6 − 4 2 6 − 4 2 が最大値である。