H は平行四辺形の対角線の交点なので、AC と BD の中点である。位置ベクトルを h=OH とし、u=HA、v=HB と置くと OA=h+u,OC=h−u,OB=h+v,OD=h−v. h は底面に垂直で、u,v は底面内にあるから h⋅u=h⋅v=0。また ∣u∣=261、∣v∣=221 である。
与えられた内積から ∣h∣2−∣u∣2=OA⋅OC=−21, したがって ∣h∣2=459。また ∣h∣2+u⋅v=OA⋅OB=225 より u⋅v=−49。したがって ∣OA∣2∣OB∣2OB⋅OC=∣h∣2+∣u∣2=459+61=30,=∣h∣2+∣v∣2=459+21=20,=∣h∣2−u⋅v=459+9=17. よって OA=30、OB=25 である(なお OB⋅OD=459−21=219 となり、与条件とも一致する)。
(1) AB=v−u、BC=−u−v だから AB2=∣u∣2+∣v∣2−2u⋅v=25,BC2=∣u∣2+∣v∣2+2u⋅v=16. したがって AB=5、BC=4。
対角線ベクトルは AC=−2u、BD=−2v なので、そのなす角を θ とすると cosθ=ACBDAC⋅BD=6121−9. 平行四辺形の面積は対角線を用いて S=21ACBDsinθ だから S=2161⋅211−61⋅2181=211200=103.
(2) 以下、A,B,C,D はそれぞれの位置ベクトルを表す。平行四辺形より D=A+C−B。したがって P=21A,Q=43B,R=41(A+C−B). 平面 PQR 上の点を P+s(Q−P)+t(R−P) とおく。これが直線 OC 上にあるには A,B の係数がともに 0 であるから 21−2s−4t=0,43s−4t=0. これを解くと s=52、t=56 となり、C の係数は 4t=103。ゆえに OT=103OC.
U を PT 上で P+λ(T−P) と表すと U=21−λA+103λC. 一方、QR 上の点は Q+μ(R−Q) と表せ、その A,C の係数はともに 4μ である。係数を比較して 21−λ=103λ より λ=85、さらに μ=43 を得る。よって OU=163(OA+OC).
最後に U=163(A+C)、D=A+C−B を用いる。先に得た内積から ∣A+C∣2=30+30+2(−21)=59,(A+C)⋅B=225+17=259. したがって w1=UO⋅UD=−163(A+C)⋅(1613(A+C)−B)=−163(1613⋅59−259)=−256885. また OH=21(A+C) なので w2=OH⋅OA=21(30−21)=459. よって w2w1=59/4−885/256=−6415.