(i) 内分の定義から OP=sOA,OQ=tOC,OR=41OB。 平行四辺形ABCDではOD=OA+OC−OBなので、 RPRQRD=OP−OR=sOA−41OB,=OQ−OR=tOC−41OB,=OD−OR=OA+OC−45OB.
(ii) 四面体 OABC が退化していないので、OA,OB,OC は一次独立である。P,R,Q,D が同一平面上にあることは、RP,RQ,RD が一次従属であることと同値である。そこで λRP+μRQ+νRD=0 となる係数(全てが 0 ではない)を考える。(i) の式を代入して各基底ベクトルの係数を比較すると sλ+ν=0,λ+μ+5ν=0,tμ+ν=0. λ=0ならν=μ=0となるためλ=0。第一・第三式からν=−sλ,μ=tsλであり、第二式は 1+ts−5s=0すなわちs(5t−1)=t. となる。よって s=5t−1t。 逆にs+t=5stなら(λ,μ,ν)=(t,s,−st)はこの係数方程式を満たす非自明解である。したがってs+t=5stは共面条件と同値である。 さらに0<s<1,0<t<1より分母は正で、5t−1t<1だからt>41。従って許される範囲は41<t<1である。
(iii) O を共通頂点とし、OP=sOA,OQ=tOC なので、底辺・高さ(または二辺とそのなす角)を用いると [△OAC][△OPQ]=st。 条件から st=61。これと (ii) の関係 s+t=5st を合わせると s+t=65。よって s,t は z2−65z+61=0(すなわち)(3z−1)(2z−1)=0 の2根である。したがって {s,t}={31,21} となり、求める値は s=31またはs=21。