(1) ∠BOC=90∘−30∘=60∘ とおく。x=OC とすると、三角形の面積公式から [OAC]=21OA⋅OCsin30∘=43x,[OBC]=21OB⋅OCsin60∘=3x. したがって、△OAC:△OBC=1:4 である。両三角形は底辺 AC,CB が同一直線 AB 上にあり、高さが共通なので AC:CB=1:4。内分点の公式より OC=54a+b.
(2) AD:DB=2:1 だから、内分点の公式より OD=3a+2b.
(3) 線分 AE 上の点 P を OP=(1−s)a+2sb(0≦s≦1) と表す。このとき AP:PE=s:(1−s) である。M は OC 上にもあるから、ある t について (1−s)a+2sb=5t(4a+b). 係数を比較すると 1−s=4t/5,s/2=t/5 であり、t=5s/2 を代入して s=1/3。よって AM:ME=1:2 で、OM=32a+61b。
また N は OD 上にもあるから、ある u について (1−s)a+2sb=3u(a+2b). 係数比較より 1−s=u/3,s/2=2u/3。これを解くと s=4/5,u=3/5 なので、ON=51a+52b。
a⊥b であるから、αa+βb と γa+δb がつくる三角形の面積は、△OAB の面積に対して ∣αδ−βγ∣ 倍となる。したがって [OAB][OMN]=32⋅52−61⋅51=307, ゆえに △OMN:△OAB=7:30. 面積比について、OAとOBは垂直なので通常の直交座標を O=(0,0),A=(3,0),B=(0,4) ととれる。M,Nの実座標へ置き換えて三角形の座標面積公式を用いると、分子分母に共通な 43/2 が消え、上の係数の式が得られる。