Oを原点とし、OA=a, OB=b, OC=cとする。各面が一辺1の正三角形なので ∣a∣=∣b∣=∣c∣=1,a⋅b=b⋅c=c⋅a=21. また、Pは辺OC上にあるから OP=tc,OM=21b,0≦t≦1.
(1)位置ベクトルの差の長さの二乗を計算すると AP2PM2=∣tc−a∣2=t2+1−2t(c⋅a)=t2−t+1,=tc−21b2=t2+41−t(c⋅b)=t2−2t+41.
(2)AM=21b−aより AM2=41+1−a⋅b=43,AP⋅AM=(tc−a)⋅(21b−a)=43−t. したがって、θ=∠PAMについて cosθ=AP⋅AMAP⋅AM=23t2−t+13−t.
(3)三角形の面積をSとする。底辺高さの公式から S=21AM⋅APsinθ. また、AM⋅AP=AM⋅APcosθと sin2θ+cos2θ=1を用いると S2=41(AM2⋅AP2−(AM⋅AP)2)=41{43(t2−t+1)−(43−t)2}=6411t2−6t+3. S≧0だから S=8111t2−6t+3.
(4)平方完成すると 11t2−6t+3=11(t−113)2+1124. 頂点t=113は0≦t≦1の範囲内なので、 Smin=811124=4466(t=113).
正四面体の各辺を単位ベクトルで表すと、面が正三角形であることから異なる辺ベクトルの内積は21となる。位置ベクトルで各距離と角度を計算し、底辺高さの公式で面積を求める。最後に平方完成し、辺上の範囲にある頂点で最小値を得る。