1<a≦4、f(x)=ax(1−x) とする。
(1) 0≦x≦1 のとき
x(1−x)=41−(x−21)2
より、0≦x≦1 では x(1−x)≧0 かつ x(1−x)≦1/4 である。また a>0、a≦4 なので
0≦f(x)=ax(1−x)≦4a≦1.
したがって 0≦f(x)≦1。
(2) f(x)=x の実数解
ax(1−x)=x、すなわち x{a(1−x)−1}=0.
よって
x=0またはx=1−a1.
条件 a>1 から 1−1/a>0 であり、二つの解は異なる。さらに a≦4 より 1−1/a≦3/4 である。したがって実数解は
x=0,x=1−a1.
(3) f(f(x))=x が異なる4つの実数解をもつ a
恒等式
f(y)−f(x)=a(y−x)(1−y−x)
に y=f(x) を用いると
f(f(x))−x={f(f(x))−f(x)}+{f(x)−x}={f(x)−x}{1+a(1−f(x)−x)}.
したがって
f(f(x))−x=x(a−1−ax){a2x2−a(a+1)x+(a+1)}.
第1因子から得る二つの解は x=0 と x=(a−1)/a であり、a>1 のため異なる。第2因子を B(x) とおくと、その判別式は
D={a(a+1)}2−4a2(a+1)=a2(a+1)(a−3).
- 1<a<3 のとき、D<0 なので B(x)=0 に実数解はなく、全体の実数解は二つである。 - a=3 のとき、B(x)=9x2−12x+4=(3x−2)2 である。その重解 x=2/3 は第1因子からの解 x=(a−1)/a=2/3 と一致するため、異なる実数解は 0,2/3 の二つである。 - 3<a≦4 のとき、D>0 なので B(x)=0 は異なる二つの実数解 x=2aa+1±(a+1)(a−3) をもつ。これらが第1因子の解と重ならないことを確認する。B(0)=a+1>0 なので 0 とは異なる。また x∗=(a−1)/a では f(x∗)=x∗ だから B(x∗)=1+a{1−f(x∗)−x∗}=1+a(1−2x∗)=3−a=0. よってこの二解は x=0, (a−1)/a のどちらとも異なる。
以上より異なる4つの実数解をもつ条件は
3<a≦4.
検算・自己点検
合成式の因数分解は f(f(x))−f(x) の差の因数分解と f(x)−x の和で導いた。a=3 で残りの二次因子の重解が固定点と一致する点を別に確認し、単に判別式だけで四解と数えないようにした。a=4 では判別式が正で、固定点とも重ならず、条件の上端を含む。平方完成、不等式、因数分解、判別式と二次方程式の解の公式だけを用いた。