(1)
点 P は A を始点とし B を通る半直線上にあり,AP=tc である。この半直線の方向は線分 AB の方向と同じであるから,∠CAP=∠CAB=∠A である(t=0 のときは P=A に退化するが,以下の式はこの場合も CP=CA=b を正しく与える)。
三角形 ACP において余弦定理を用いると CP2=AC2+AP2−2⋅AC⋅APcosA=b2+t2c2−2btccosA. 一方,三角形 ABC に余弦定理を用いると cosA=2bcb2+c2−a2 であるから,2btccosA=tc⋅cb2+c2−a2=t(b2+c2−a2) に注意して代入すると CP2=t2c2−(b2+c2−a2)t+b2(t≧0). (検算)t=0 のとき CP2=b2,すなわち P=A で CP=CA=b と一致する。t=1 のとき CP2=c2−(b2+c2−a2)+b2=a2,すなわち P=B で CP=CB=a と一致する。いずれも定義と整合するので式は正しい。
(2)
CP=a,すなわち CP2=a2 とおくと,(1)の結果より t2c2−(b2+c2−a2)t+b2−a2=0.(∗) t=1 を代入すると c2−(b2+c2−a2)+b2−a2=0 となり,これは恒等的に成り立つ。これは「P=B のとき常に CP=CB=a」という事実に対応する解であるから,(∗) の左辺は (t−1) を因数にもち, t2c2−(b2+c2−a2)t+(b2−a2)=(t−1){c2t−(b2−a2)} と因数分解できる(右辺を展開すれば左辺に一致することで確認できる)。よって (∗) の解は t=1,t=c2b2−a2. 問題の設定で t≧0 が要求されているから,t=c2b2−a2 が解として採用できるのは b2−a2≧0,すなわち b≧a のときに限る。b<a のときはこの値が負になり不適で,解は t=1 のみである。
まとめると b≧a のときt=1, c2b2−a2,b<a のときt=1 のみ.
(3)
点 P が辺 AB 上にあることは,AP=tc,AB=c(c>0)より 0≦t≦1 と同値である。(2)より,CP=a を満たす t の候補は t=1 と t0=c2b2−a2 の高々2つであり,t=1 は常に 0≦t≦1 を満たす(P=B に対応)。
したがって「辺 AB 上にちょうど2つ」となるのは,t0 が t=1 とは異なる値として0≦t0≦1 を満たすとき,すなわち 0≦t0<1すなわち0≦c2b2−a2<1すなわちa2≦b2<a2+c2(∵c2>0) のときであり,かつそのときに限る。
(補足:t0=1,すなわち b2=a2+c2 のときは (∗) が t=1 を重解にもち,得られる点は P=B の1つのみで「ちょうど2つ」を満たさない。t0<0,すなわち b<a のときは 0≦t≦1 の範囲の解は t=1 のみで点は1つ。t0>1,すなわち b2>a2+c2 のときも 0≦t≦1 の範囲の解は t=1 のみで点は1つである。したがって上の不等式が過不足のない条件である。)
この不等式を辺の大小・角の大小に翻訳する。まず a,b>0 より a2≦b2すなわちa≦b. 三角形においては大きい辺の対角が大きい角であるという性質(三角形の辺と角の大小関係)により, a≦bすなわち∠A≦∠B. 次に,三角形 ABC に余弦定理を用いると cosB=2aca2+c2−b2 であるから,a,c>0 より b2<a2+c2すなわちa2+c2−b2>0すなわちcosB>0すなわち0∘<∠B<90∘. 以上より,求める条件は ∠A≦∠B<90∘.
(検算)
・ 正三角形(a=b=c,∠A=∠B=60∘)は条件 ∠A≦∠B<90∘ を満たす。実際 (1)で a=b=c とすると CP2=a2(t2−t+1) となり,CP=a から t2−t=0,t=0,1。ともに 0≦t≦1 の範囲で異なる値なので P=A,B の2点となり,条件と一致する。
・ a=3, c=4, b=5(b2=a2+c2=25 より ∠B=90∘)のとき,t0=(25−9)/16=1 で t=1 と重なり,点は P=B の1つのみ。境界 ∠B=90∘ が除外されることと整合する。
・ a=3, b=2, c=2(辺の大小から ∠B<∠A)のとき,t0=(4−9)/4=−5/4<0 で不適,0≦t≦1 の範囲の解は t=1 のみで点は1つ。条件 ∠A≦∠B が破れることと整合する。
いずれも上記の結論と矛盾しない。