曲線 C:y=x3−kx 上の x=t における接線は f′(t)=3t2−k,f(t)−tf′(t)=−2t3 より ℓt:y=(3t2−k)x−2t3 である。特に原点での接線は ℓ0:y=−kx。
(1) ℓ0 の傾きを m0=−k とする。傾き m の直線と ℓ0 のなす角の正接は 1+m0mm−m0=1−kmm+k. したがって、ℓ0 と 60∘ をなす他の2方向の傾きは m+=1+3k−k+3,m−=1−3k−k−3. 分母が 0 となる方向は垂直であり、有限傾きの曲線の接線にはならない。曲線の接線の傾きは 3t2−k≧−k で、t=0 なら −k より大きい。また m++k=1+3k3(1+k2),m−+k=3k−13(1+k2). 両方向が接線の傾きとして実現する必要十分条件は、両式が正であること、すなわち k>31. このとき a2=3m++k=3(1+3k)1+k2,b2=3m−+k=3(3k−1)1+k2 とおけば 0<a<b である。t=±a,±b における接線が必要な2方向を与えるので、この条件は十分でもある。
(2) (1)の a,b を用いる。3接線 ℓ0,ℓr,ℓs を選ぶとき、順序を適宜定めて r=±a, s=±b とできる。ℓr,ℓs と ℓ0 の交点をそれぞれ Ar,As とすると、 Ar=(32r,−32kr),As=(32s,−32ks),∣ArAs∣=32∣r−s∣1+k2. また C0=ℓr∩ℓs とおく。r2=s2 より r+s=0 であり、2接線の式から xC0=3(r+s)2(r2+rs+s2),yC0+kxC0=r+s2r2s2. よって C0 から ℓ0 までの距離は 1+k2∣yC0+kxC0∣=∣r+s∣1+k22r2s2, したがって三角形の面積 S は S=21∣ArAs∣d(C0,ℓ0)=32r2s2∣r+s∣∣r−s∣. r,s が同符号なら S=32a2b2a+bb−a、異符号なら S=32a2b2b−aa+b である。後者が最大値 M、前者が最小値 m となるから、 mM=(b−aa+b)2. M=4m は b=3a と同値である。一方、 a2b2=3k−11+3k. これを 9 とおいて解くと 9=3k−11+3kしたがってk=435=1253. この値は (1) の範囲を満たす。
三次関数の接線の傾き・切片を求め、角条件から接点の絶対値を固定したうえで、符号による接線三角形の面積を比較する。