(1) I(x)=∫0xf(t)dt とおくと、∫x0f(t)dt=−I(x) なので、 I(x)=x3−3x2−9x−2I(x), I(x)=3x3−x2−3x. f(x)=I′(x)=x2−2x−3=(x−3)(x+1). y=|f(x)| は x≦−1, x≧3 で x2−2x−3, −1≦x≦3 で −x2+2x+3. したがって、グラフは (−1,0),(3,0) を通り、中央の下に開く放物線部分の頂点は (1,4)、} (0,3) を通る。 x≦−1 と x≧3 の外側部分は上に開き、左右に伸びる。
(2) −r≦x≦r の範囲の端点での値は ∣f(−r)∣=∣r2+2r−3∣,∣f(r)∣=∣r2−2r−3∣. 内部での最大候補は、中央部分の頂点 x=1 における 4 である。 0≦r≦1 では −r≦x≦r の範囲は −1≦x≦1 に含まれ、 ∣f(x)∣=−x2+2x+3 は x≦1 で増加するから、 F(r)=∣f(r)∣=3+2r−r2. r≧1 では x=1 が区間に含まれ、値 4 をとる。左端 x=-r の値は r2+2r−3 であり、これが 4 となる正の r は a=22−1(r2+2r−7=0)である。 1≦r≦a では両端点の値は 4 以下なので F(r)=4. r≧a では左端の値 r2+2r−3≧4 が内部最大値を上回る。 a≦r≦3 では右端の値は −r2+2r+3≦4、r≧3 では右端との差 ∣f(−r)∣−∣f(r)∣=4r>0 だから、F(r)=r2+2r−3. よって F(r)=⎩⎨⎧3+2r−r24r2+2r−3(0≦r≦1),(1≦r≦a),(r≧a), a=22−1. (3) ∫02F(r)dr=∫01(3+2r−r2)dr+4(a−1)+∫a2(r2+2r−3)dr. ∫01(3+2r−r2)dr=311,4(a−1)=82−8, ∫a2(r2+2r−3)dr=[3r3+r2−3r]a2=382−9. ∴∫02F(r)dr=311+82−8+382−9=3322−22.