OA=a, OB=b, OC=c とおく。正四面体の各面は一辺の長さが 1 の正三角形だから、 ∣a∣=∣b∣=∣c∣=1,a⋅b=b⋅c=c⋅a=21. 内分比と OP=t より、0≦t≦1 であり、 OD=32a,OE=31b,OP=tc. したがって、DE=31b−32a、DP=tc−32a である。内積と長さを計算すると、 DE⋅DP∣DE∣2∣DP∣2=6t−91−3t+94=62−t,=91+94−92=31,=t2−32t+94=99t2−6t+4. ここで Q=9t2−6t+4=9(t−31)2+3>0 だから DP=0 である。よって、問1の答えは cos∠EDP=29t2−6t+43(2−t)(0≦t≦1). 問2では、この式を f(t) とおく。Q>0 であるから、 f′(t)=4(9t2−6t+4)3/23(4−30t). したがって f は 0≦t<152 で増加し、152<t≦1 で減少する。Q(152)=2584 より f(152)=37,f(0)=23,f(1)=1421. また f(0)>f(1) なので、最大値 37 (t=152),最小値 1421 (t=1) である。
正四面体の頂点ベクトルの長さと相互内積を使い、DE・DP と各長さを計算する。得られた余弦関数を微分して単調性を調べ、臨界点と両端で値を比較する。