OA=a, OB=b とおく。辺の長さより ∣a∣=1,∣b∣=2,∣b−a∣=3. したがって ∣b−a∣2=∣a∣2+∣b∣2−2a⋅b に代入すると 3=1+2−2a⋅b だから a⋅b=0、すなわち OA⊥OB である。また AL:LB=1:2 より OL=32a+b.
問1 LP=(m−32)a−31b,LQ=−32a+(n−31)b. ∠PLQ=2π なので LP⋅LQ=0 である。a⋅b=0, ∣a∣2=1, ∣b∣2=2 を用いると 0=−32(m−32)−32(n−31)=−32(m+n)+32. よって m+n=1.
問2 D=1−mn とおく。0<m,n<1 だから D>0 である。R は直線 AQ 上にあるので、ある実数 t を用いて OR=(1−t)a+tnb と表せる。また R は直線 BP 上にもあるので、ある実数 s を用いて OR=sma+(1−s)b とも表せる。a,b は垂直な零でないベクトルだから係数を比較でき、 1−t=sm,tn=1−s. 第2式から s=1−tn を第1式に代入して 1−m=t(1−mn),t=1−mn1−m=Dn, ただし m+n=1 を用いた。したがって 1−t=DD−n=Dm2,tn=Dn2. ゆえに OR=m2−m+1m2OA+m2−m+1(1−m)2OB,(n=1−m).
問3 問2より、a,b に関する R の係数を x=Dm2,y=Dn2 とおくと OR=xa+yb である。m,n>0 なので x,y>0 であり、 mx+ny=Dm+n=1−mn1>1. 直線 PQ 上の点の係数 (X,Y) は X/m+Y/n=1 を満たすため、R は直線 PQ のうち O と反対側にある。従って、四角形 OPRQ の面積から直角三角形 OPQ の面積を引けば △PRQ の面積になる。
OA⊥OB であることから、各三角形の面積は底辺と高さを使って [OPR]=22my,[ORQ]=22nx,[OPQ]=22mn となる。よって S=[OPR]+[ORQ]−[OPQ]=22(my+nx−mn). ここで m+n=1, D=1−mn より my+nx=Dmn2+nm2=Dmn(m+n)=Dmn, したがって S=221−mnm2n2. u=mn=m(1−m) とおくと、0<m<1 より 0<u≦41 であり、等号は m=n=21 のときに成り立つ。さらに 0<u<v≦41 なら 1−vv2−1−uu2=(1−u)(1−v)(v−u)(u+v−uv)>0 であるから u2/(1−u) はこの範囲で増加する。u は 0 に限りなく近づけるが 0 にはならず、最大値 1/4 は実際にとるので u→0+limS=0,Smax=22⋅1−1/4(1/4)2=242. 従って求める範囲は 0<S≦242.