(1) f(x)=x4−4x3−8x2 であるからf′(x)=4x3−12x2−16x=4x(x2−3x−4)=4x(x−4)(x+1)である。したがって増減が変わる候補は x=−1,x=0,x=4 である。
符号を調べると、f′(x) は(−∞,−1)で負,(−1,0)で正,(0,4)で負,(4,∞)で正である。よって x=−1 と x=4 で極小、x=0 で極大をとる。
それぞれの値は f(−1)=1+4−8=−3,f(0)=0,f(4)=256−256−128=−128 である。したがって x=0 のとき極大値 0 であり、極小値は x=−1 のとき −3,x=4 のとき −128 である。
(2)
点 x=u における接線は y=f′(u)(x−u)+f(u) すなわち y=f′(u)x+{f(u)−uf′(u)} である。2点 x=a,b で同じ直線に接するためには、傾きと切片がともに一致する必要がある。したがって f′(a)=f′(b) かつ f(a)−af′(a)=f(b)−bf′(b) である。
まず f′(x)=4x3−12x2−16x なので、a=b を用いて0=f′(a)−f′(b)=4(a−b){a2+ab+b2−3(a+b)−4}である。よって a2+ab+b2−3(a+b)−4=0 を得る。
次にf(x)−xf′(x)=x4−4x3−8x2−x(4x3−12x2−16x)=−3x4+8x3+8x2である。したがって同様に a=b で割ると −3(a3+a2b+ab2+b3)+8(a2+ab+b2)+8(a+b)=0 である。
ここで s=a+b,q=ab とおくと a2+ab+b2=s2−q であるから、傾き一致の条件は s2−q−3s−4=0 すなわち q=s2−3s−4 である。また a3+a2b+ab2+b3=s3−2qs なので、切片一致の条件は −3s3+6qs+8s2−8q+8s=0 である。ここへ q=s2−3s−4 を代入すると 3s3−18s2+8s+32=0 となる。因数分解して (s−2)(3s2−12s−16)=0 である。 3s2−12s−16=0 のときは、a,b を解にもつ2次方程式の判別式 s2−4q=−3s2+12s+16 が0になる。実際、3s2=12s+16 だからこの値は0である。これは a=b を意味し、問題の条件 a<b に反する。したがって s=2 だけが残る。このとき q=s2−3s−4=4−6−4=−6 である。よって a,b は u2−2u−6=0 の2解であるから、a<b より a=1−7,b=1+7 である。
この2点における接線の傾きを求める。u2=2u+6 を満たす点では u3=u(2u+6)=2u2+6u=10u+12 である。したがってf′(u)=4u3−12u2−16u=4(10u+12)−12(2u+6)−16u=−24である。
また、切片は f(u)−uf′(u)=f(u)+24u である。例えば u=1+7 を代入してもよいが、上の関係式を使うと f(u)−uf′(u)=−3u4+8u3+8u2=−36 となる。よって求める直線は y=−24x−36 である。