一辺1の立方体の辺方向 a,b,c は互いに垂直な単位ベクトルである。図の内分比は始点側から AP:PE=BQ:QD=x:(1−x)、CR:RG=t:(1−t) なので、 OP=a+xc,OQ=xa+b,OR=tb+c.
(1) 重心Sの位置ベクトルは頂点位置ベクトルの平均だから、 OS=3OP+OQ+OR=31+xa+31+tb+31+xc.
(2) 平面内の二方向を PQ=(x−1)a+b−xc,PR=−a+tb+(1−x)c とする。この2方向は平行でない。もし PR=λPQ なら、b 成分から λ=t、a 成分から −1=t(x−1)、すなわち t=1/(1−x)>1 となり、問題の条件 0<t<1 に反する。よってPQ, PRは平面PQRを張る。
OSが平面PQRに垂直なら、特に OS⋅PQ=0。内積を計算すると 3OS⋅PQ=t−x だから t=x が必要。逆に t=x なら 3OS=(1+x)(a+b+c) であり、PQ, PRの各係数の和はともに0なので、OSは両方向に垂直。従って求める条件は t=x.
(3) 以後 t=x、w=x2−x+1=(x−1/2)2+3/4>0 と置く。 ∣PQ∣2=(x−1)2+1+x2=2w,∣PR∣2=1+x2+(1−x)2=2w,PQ⋅PR=w. ゆえに cos∠QPR=w/(2w)=1/2、よって sin∠QPR=3/2。三角形の面積は f(x)=21∣PQ∣∣PR∣sin∠QPR=23w=23((x−21)2+43). 定義域 0<x<1 の中で最小となるのは x=1/2、最小値は 33/8。
(4) x=t=1/2 のとき、a,b,c を直交座標の軸とすると P=(1,0,1/2),Q=(1/2,1,0),R=(0,1/2,1). 三角形OPQを底面にする。OP⋅OP=OQ⋅OQ=5/4、OP⋅OQ=1/2。二辺のなす角をθとすると、内積の定義より [OPQ]=21∣OP∣∣OQ∣sinθ=21∣OP∣2∣OQ∣2−(OP⋅OQ)2=821. 法線ベクトルとして n=2a−b−4c をとると、n⋅OP=n⋅OQ=0 で、∣n∣=21。従ってRから底面OPQまでの高さは、OR の単位法線方向の成分の大きさ h=∣n∣∣n⋅OR∣=21∣−1/2−4∣=2219. 四面体の体積は底面積×高さ÷3だから V=31⋅821⋅2219=163.