(1) a=OA, b=OB, c=OCと置く。a⊥b,cより ∣a∣2=∣AB∣2−∣b∣2=(37)2−62=27, したがってOA=33。また ∣BC∣2=∣b−c∣2=∣b∣2+∣c∣2−2b⋅c から28=36+16−2b⋅c、ゆえにOB⋅OC=12。三角形OBCについてcos∠BOC=12/(6⋅4)=1/2なのでsin∠BOC=3/2、 S=21⋅6⋅4⋅23=63. OAは平面OBCに垂直だから、四面体の高さはOA=33。よって V=31S⋅OA=31⋅63⋅33=18. さらにAP=OP−OA=−95a+92b+31c。一方AB=−a+b、AC=−a+cなので AP=92AB+31AC.
(2) 交点をXとし、直線上の表示をOX=λOP=OA+μ(OQ−OA)と置く。a,b,cの係数比較から 94λ=1−μ,92λ=μs,3λ=μt. 最後の二式を割るとs/t=2/3。s,t>0よりs=2k,t=3k(k>0)とおける。内積を使って ∣OQ∣2=36s2+16t2+24st=432k2. ∣OQ∣=33だから432k2=27、k=1/4。従ってs=1/2,t=3/4。
(3) a,b,cに関する座標を用いるとD=(2/5,0,0), E=(0,2/3,0), Q=(0,1/2,3/4)。これらを通る平面は 15x+9y+2z=6 であり、3点を代入するといずれも左辺が6となる。P=(4/9,2/9,1/3)だからL=λPを代入してλ(15⋅4/9+9⋅2/9+2⋅1/3)=6、すなわちλ(28/3)=6。よってλ=9/14、OL=149OP。 OLABとOABCは頂点O,A,Bを共有する。OL=λOPのc係数はλ/3であるため、共通面OABに対する高さの比、従って体積比はλ/3=3/14。したがって VOLAB=143VOABC=143⋅18=727. 最後に係数は正で、体積も正となり、与えられた正の内分比と整合する。