OA=a, OB=b, OC=c とする。正四面体の各辺の長さが1なので ∣a∣=∣b∣=∣c∣=1,a⋅b=b⋅c=c⋅a=21. また OP=31, OQ=21, OR=r である。
(1) PQ2=31a−21b2=91+41−61=367, したがって PQ=67 である。
(2) CP=31a−c, CQ=21b−c とおくと CP2=97,CQ2=43,CP⋅CQ=32. 二辺とその間の角による面積公式から、三角形 PQC の面積を S とすると S2=41(CP2CQ2−(CP⋅CQ)2)=41(127−94)=1445. よって S=125 である。
(3) R の位置ベクトルを rc とする。u=PQ=21b−31a, v=PR=rc−31a とおくと、上の内積から ∣u∣2=367,∣v∣2=r2−3r+91,u⋅v=12r+361. したがって三角形 PQR の面積 S(r) は S(r)2=41(∣u∣2∣v∣2−(u⋅v)2)=57627r2−10r+3. ここで 0≦r≦1 である。二次式 27r2−10r+3 は r=275 で最小となり、その値は 27(275)2−10(275)+3=2756. ゆえに面積の最小値は 2412756=10842 である。
(4) 三角形 PQR 内の点 H を OH=λOP+μOQ+νOR,λ+μ+ν=1 と表すと、H が内部にある条件は λ,μ,ν>0 である。OH が平面 PQR に垂直であるためには、OH⋅(OQ−OP)=0 および OH⋅(OR−OP)=0 が必要十分で、これは OH⋅OP=OH⋅OQ=OH⋅OR と同値である。OP=31a, OQ=21b, OR=rc の内積を代入して解くと λ=Δ3r(7r−1),μ=Δ2r(3r−1),ν=Δ3−5r,Δ=27r2−10r+3. Δ は判別式が (−10)2−4⋅27⋅3=−224<0 で、最高次係数が正だから常に正である。0≦r≦1 のもとで三係数がすべて正となるには r>31 かつ r<53 が必要であり、この範囲では λ も正となる。したがって求める範囲は 31<r<53.