原本の選択問題には 5-a と 5-b があり、どちらか一方を解答する指示である。以下では両選択肢の解を示す。どちらも単独で選択解答として完結する。
5-a. 整数解
y2−2yz+5z2=(y−z)2+4z2 なので、整数 t=y−z とおけば、与式は 3x2+t2+4z2=12 となる。各項は非負だから 3x2≦12、4z2≦12。よって x は −2,−1,0,1,2 のいずれか、z は −1,0,1 のいずれか である。
まず z=0 なら 3x2+t2=12。x=0 では t2=12 となり整数解がない。x=±1 では t2=9、従って t=±3。x=±2 では t=0。
次に z=±1 なら 3x2+t2=8。可能な x は 0,±1 で、それぞれ t2=8,5 となり、整数 t はない。∣x∣=2 は 3x2=12>8 で不可能である。以上で場合を尽くした。y=t+z に戻すと、求める解は (x,y,z)=(1,3,0),(1,−3,0),(−1,3,0),(−1,−3,0),(2,0,0),(−2,0,0). 平方完成は同値変形なので、これらはすべて元の式を満たし、他に解はない。
5-b (1). 漸化式から u1=1、u2=a+b、u3=a2+ab+b2 となる。したがって a=b なら un=an−1+an−2b+⋯+abn−2+bn−1=a−ban−bn と推定できる。a=b なら各項が an−1 の和となるので un=nan−1 と推定する。
数学的帰納法で証明する。n=1 では、a=b の式は (a−b)/(a−b)=1、a=b の式も 1⋅a0=1 で、どちらも初項に一致する。n で成立すると仮定する。a=b のとき un+1=aa−ban−bn+bn=a−ban+1−abn+(a−b)bn=a−ban+1−bn+1. a=b のときは un+1=a⋅nan−1+an=(n+1)an. 従って両場合とも一般項の式が成り立つ。
5-b (2). a=b のとき、(1)と等比数列の和より k=1∑nuk=a−b1(k=1∑nak−k=1∑nbk)=a−b1(a−1a(an−1)−b−1b(bn−1)). 分母 a−1,b−1 は問題の条件により0ではない。
a=b のときは uk=kak−1 である。Sn=k=1∑nkak−1 とおくと、隣り合う和を引いて (1−a)Sn=1+a+⋯+an−1−nan=1−a1−an−nan. ここで a=1 なので、さらに 1−a で割れて k=1∑nuk=Sn=(1−a)21−(n+1)an+nan+1.