2次式について g(x)=f(x+3)−f(x)=6ax+9a+3b.
(1) 条件Cより、1と4、2と5はいずれも3で割り切れない整数なので、g(1)=f(4)−f(1)とg(2)=f(5)−f(2)は整数である。したがって 6a=g(2)−g(1) は整数,9a+3b=g(1)−6a は整数. よってg(x)は係数と定数項が整数である1次式である。
以後、条件Cは次の条件と同値である。 6a は整数,3a+b は整数,a+b+c は整数.(*) 実際、Cならば(1)と、f(1),f(2) が整数であることより、3a+b=f(2)−f(1) は整数である。逆に(*)ならば9a+3b=3(3a+b) は整数だから、g(x)は整数xに対して常に整数となる。またf(1)とf(2)=f(1)+(3a+b)は整数である。3で割り切れない整数xは1または2を3の整数倍だけ移動したものなので、f(x)も整数となる。
(2) m=6a、k=3a+bとおくと、(*)からm,kは正の整数であり、 a=6m,b=k−2m,c=1−k+3m. b>0,c>0より 2m<k<1+3m. したがってm<6。m=1,2,3,4,5を調べると、この範囲に入る整数kは(m,k)=(1,1)だけである。よって a=61,b=21,c=31,f(x)=6x2+2x+31.
(3) (*)を用いる。条件Cならばm1b=m1(k−m/2)とm2a+m3b=m3k+(m2−3m3)m/6が整数でなければならない。Cを満たす正の係数の例(a,b,c)=(1/6,1/2,1/3)を代入すると、必要条件 m1≡0(mod2),m2+3m3≡0(mod6)(すなわち m2≡3m3(mod6)) を得る。自然数m1,m2,m3について、和が6未満なら、偶数m1≧2よりm1=2でm2+m3≦3となる。しかし(m2,m3)=(1,1),(2,1),(1,2)はいずれも上の合同条件を満たさない。したがって和は6以上である。
(m1,m2,m3)=(2,3,1)ならばCから2b=2(3a+b)−6a、3a+b、a+b+cはいずれも整数となりC'を満たす。逆にC'ならば2b、3a+b、a+b+cが整数であり、6a=2(3a+b)−2bも整数となるので(*)よりCを満たす。ゆえに最小の組は(2,3,1)、その和は6である。
(4) f(1)=nとして再びm=6a、k=3a+bとおく。条件(*)およびa,b,c>0より、m,kは正の整数で b=k−2m>0,c=n−k+3m>0,すなわち2m<k<n+3m. これを満たす整数mは1≦m<6n。各mに対するkの個数は Nm=⌈n+3m⌉−⌊2m⌋−1. m=6q+r(0≦r≦5)と分けると、r=1ではNm=n−q、r=0,2,3,4,5ではNm=n−q−1となる。したがって総数は q=1∑n−1(n−q−1)+q=0∑n−1(n−q)+4q=0∑n−1(n−q−1)=2(n−1)(n−2)+2n(n+1)+2n(n−1)=3n2−3n+1.