OA=a, OB=b とする。まず、P は OA の中点であるから OP=21a. また、Q は AQ:QB=1:3 となる内分点なので、内分点の位置ベクトルは OQ=1+33a+b=43a+41b である。したがって PQ=OQ−OP=(43−21)a+41b=41a+41b. よって、(1) は ア=41, イ=41 である。
M は PQ の中点だから、位置ベクトルは両端の位置ベクトルの平均となり、 OM=2OP+OQ=21(21a+43a+41b)=85a+81b. よって、(2) は ウ=85, エ=81 である。
直線 AM 上の点を、実数 t を用いて OR=a+t(OM−a)=(1−83t)a+8tb と表す。R は直線 OB 上にもあるので、OR の a の係数は 0 でなければならない。三角形 OAB は退化していないから a,b は一次独立であり、係数を比較できる。したがって 1−83t=0よりt=38,OR=8tb=31b. よって、(3) は オ=31 である。
最後に、MO=−OM および各点の位置ベクトルから MO=−85a−81b,MA=OA−OM=83a−81b,MB=OB−OM=−85a+87b を得る。これらを MO+αMA+βMB=0 に代入し、a,b の係数をそれぞれ比較すると −5+3α−5β=0,−1−α+7β=0. 第2式から α=7β−1 である。これを第1式に代入して 21β−3−5β=5より16β=8よりβ=21, よって α=25 となる。実際、−5+3⋅25−5⋅21=0、−1−25+7⋅21=0 であり、係数の両方が 0 となることを確認できる。したがって (4) は カ=25, キ=21 である。