正方形 ABCD の一辺の長さを a とする。APBP は長さの比であり a の値によらないので、以下 a=1 として一般性を失わない。
座標を A(0,0), B(1,0), C(1,1), D(0,1) とし、正方形内部の点を P(x,y)(0<x<1, 0<y<1)とする。
(1) 条件 ∠CPD=90∘ の言い換え
三角形 CPD において ∠CPD=90∘ であることは、三平方の定理(およびその逆)によりPC2+PD2=CD2=1と同値である。PC2=(1−x)2+(1−y)2, PD2=x2+(1−y)2 なので(1−x)2+(1−y)2+x2+(1−y)2=1.左辺を整理するとx2−x+y2−2y+1=0であるための必要十分条件は(x−21)2+(y−1)2=41.(∗)これは中心 (21,1)、半径 21 の円であり、線分 CD を直径とする円に一致する。
P は正方形内部の点だから y<1 である必要があり、逆に (∗) 上で y<1(かつ C,D 自身を除く)を満たす点は、x の範囲が自動的に 0≦x≦1 に収まるので、すべて正方形内部の点になる(C=(1,1),D=(0,1) がちょうど y=1 の端点にあたる)。したがって P の動く範囲は円 (∗) の下半円(C,D を除く弧)である。
(2) t=(APBP)2 とおいて直線の方程式を作る
AP2=x2+y2, BP2=(x−1)2+y2=x2−2x+1+y2 である。(∗) を展開して得られる x2+y2=x+2y−1 を用いるとAP2=x+2y−1,BP2=(x+2y−1)−2x+1=−x+2y(検算:AP2,BP2 をそれぞれ直接展開しても同じ式になることを確認済み)。
t=AP2BP2>0 とおくと BP2=tAP2 より−x+2y=t(x+2y−1)であるための必要十分条件は(t+1)x+2(t−1)y−t=0.(∗∗)t を固定するごとに (∗∗) は (x,y) 平面上の直線を表す。P が実在するための条件は、この直線が円 (∗) と共有点をもつこと、すなわち円の中心 (21,1) から直線 (∗∗) までの距離が半径 21 以下であることである。
(3) 点と直線の距離条件
距離は(t+1)2+4(t−1)2(t+1)⋅21+2(t−1)⋅1−t≦21であり、分子の絶対値の中は2t+1+2(t−1)−t=2t+1+t−2=2t+1+2t−4=23(t−1)なので23∣t−1∣≦21(t+1)2+4(t−1)2.両辺とも非負なので2乗して9(t−1)2≦(t+1)2+4(t−1)2であるための必要十分条件は5(t−1)2≦(t+1)2.両辺の平方根をとる(t>0 より t+1>0)と5∣t−1∣≦t+1.
(4) 場合分けで t の範囲を求める
(i) t≧1 のとき:5(t−1)≦t+1であるための必要十分条件は(5−1)t≦1+5、すなわちt≦5−11+5=4(1+5)(5+1)=46+25=23+5.
(ii) t<1 のとき:5(1−t)≦t+1であるための必要十分条件は5−1≦(1+5)t、すなわちt≧5+15−1=4(5−1)2=46−25=23−5.
以上をまとめると23−5≦t≦23+5.
(5) 最大値の確認(等号成立の検算)
t=23+5(等号)のとき直線 (∗∗) は円 (∗) に接する。接点を計算すると(x,y)=(63−5, 32)となり、0<x<1, 0<y=32<1 を満たすので、C,D とは異なる正方形内部の点として妥当である。
検算として、この点で実際に ∠CPD=90∘ となることを直接確かめる。C=(1,1),D=(0,1) に対しPC=(63+5, 31),PD=(−63−5, 31)であり、内積は−36(3+5)(3−5)+91=−369−5+364=0となって直交が確認できる。また、この点で AP2=x+2y−1=63−5+34−1=63−5+8−6=65−5、BP2=t⋅AP2=23+5⋅65−5=12(3+5)(5−5)=1215−35+55−5=1210+25=65+5 となり、AP2BP2=5−55+5=20(5+5)2=2030+105=23+5=t で一致することも確認できる。
さらに(21+5)2=41+25+5=46+25=23+5なので、AP>0, BP>0 であることと合わせて(APBP)max=23+5=21+5である(これは黄金比 φ に一致する)。なお境界(P→D または P→C)での極限値はそれぞれ 2≈1.414、21≈0.707 であり、いずれも 21+5≈1.618 より小さいので、この最大値は弧の内部(C,D を除く実現可能な点)で達成される真の最大値である。