(1) OA=a, OB=b, OC=c とおく。∣a∣=∣b∣=∣c∣=1 で、5a=7b+8c だから、両辺の長さの2乗より 25=49+64+112(b⋅c),b⋅c=−1411. よって BC2=∣b−c∣2=2−2b⋅c=25/7 から BC=5/7。また、条件式と b,c との内積をとると a⋅b=1/7, a⋅c=1/2 を得る。∣b∣=∣c∣ なので b+c は BC に垂直であり、直線 BC 上の点の位置ベクトル x は x⋅(b+c)=1+b⋅c=3/14 を満たす。P の位置ベクトルを ta とすると t(a⋅b+a⋅c)=t149=143,t=31. したがって OP=1/3。さらに AB2=2−2a⋅b=12/7, AC2=2−2a⋅c=1 であり、(b−a)⋅(c−a)=−3/7。ゆえに sin∠BAC=5/(27) で、三角形の面積は 21AB⋅ACsin∠BAC=21712⋅275=1453.
(2) 正の交点を x0 とすると、x0α=mx0 より x0=m−1/(1−α)。0<x<x0 では xα−mx>0 なので、円板法により V=π∫0x0(xα−mx)2dx=πx02α+1(2α+11−α+22+31)=3(2α+1)(α+2)2π(1−α)2m−(2α+1)/(1−α). m を固定して α→+0 とすると V→π/(3m)。また m3V の m にかかる指数は (2−5α)/(1−α) で、係数は正である。したがって m→∞ で有限かつ0でない値に収束する条件は 2−5α=0、すなわち α=2/5 である。
(3) 判別式は D=k2−4(k+35)=(k−14)(k+10)。異なる実数解をもつ k は −100≦k≦−11 または 15≦k≦100 なので、n(A)=90+86=176。D>0 の場合、2解を u,v とすると、両方が2を超えることと (u−2)+(v−2)=−k−4>0, (u−2)(v−2)=3k+39>0 は同値である。よって −13<k<−4 かつ D>0 となる整数は k=−12,−11 の2個である。D≦0 の場合は2解の実部がともに −k/2 なので、−10≦k≦14 の中で k<−4 を満たす k=−10,−9,…,−5 の6個が A∩B に入る。したがって n(A∩B)=2, n(A∩B)=6。 次に C を数える。D≧0 では、2解が整数となる条件は D=s2(s は非負整数)である。実際、D≡k2(mod4) より s と k の偶奇は一致する。t=∣k−2∣ とおけば (t−s)(t+s)=144。両因子を 2u,2v(0<u≦v)と書くと uv=36 であり、(u,v)=(1,36),(2,18),(3,12),(4,9),(6,6)。それぞれ t=u+v=37,20,15,13,12 だから、該当する k は −35,−18,−13,−11,−10,14,15,17,22,39 である。このうち k=−10,14 は D=0 で A に属さない。D<0 では解の実部 −k/2 が整数になるため k は偶数である。k=2q、虚部の絶対値を整数 h>0 とおくと (q−1)2+h2=36。∣q−1∣<6 の整数について 36−(q−1)2 が正の平方数になるのは q−1=0, h=6 だけなので、k=2 のみである。ゆえに A∩C は −35,−18,−13,−11,15,17,22,39 の8個、A∩C は −10,2,14 の3個である。