(1) OA=(1,2,1), OB=(2,−1,−3) とおく。 ∣OA∣=6,∣OB∣=14,OA⋅OB=2−2−3=−3. ∠AOB=θ とすると、cosθ=−843 である。したがって sinθ=1−cos2θ=8475=275. よって、三角形 OAB の面積は 21∣OA∣∣OB∣sinθ=2184⋅275=253.
(2) OA=a, OB=b, OC=c とし、E=sa, F=tb とおく。a⋅c=4, b⋅c=−2 だから、EF⊥OC より (tb−sa)⋅c=−2t−4s=0,t=−2s. E=F なので s=0 である。したがって EF=tb−sa=−s(a+2b)=−5s(1,0,−1). ゆえに、L3 の方向ベクトルとして v=(1,0,−1) をとれる。
(i) D(3,2,−1) を通るので、L3 上の点を Q(u)=(3,2,−1)+u(1,0,−1)=(3+u,2,−1−u) と表せる。xy 平面では z=0 だから −1−u=0 より u=−1 であり、交点は (2,2,0) である。
(ii) 点 B との距離の二乗は ∣Q(u)−B∣2=(1+u)2+32+(2−u)2=2u2−2u+14=2(u−21)2+227. これは u=21 のとき最小となる。実際、このとき Q=(27,2,−23) で、∣Q−B∣2=227 である。よって求める最小距離は 227=236.