b=AB、d=AD、e=AE とする。条件より ∣b∣=2, ∣d∣=3, ∣e∣=1, b⋅d=∣b∣∣d∣cos60∘=3 であり、e は b,d の両方に垂直である。平行六面体の頂点をこれらのベクトルで表すと、AB=b, AD=d, AE=e, AF=b+e, AG=b+d+e である。FJ:JG=1:2 だから AJ=b+31d+e となる。
(1) EB=b−e、EJ=b+31d である。直交条件と内積から ∣EB∣2=5, ∣EJ∣2=4+2+1=7, EB⋅EJ=4+1=5 を得る。2辺のなす角を θ とすると、三角形の面積 S は S=21∣EB∣∣EJ∣sinθ であり、cosθ=∣EB∣∣EJ∣EB⋅EJ であるから S2=41{∣EB∣2∣EJ∣2−(EB⋅EJ)2}=41(5⋅7−25)=25。 よって面積は 210 である。
(2) 線分 FD 上の点 K を F から D へ t だけ進んだ点とすると AK=(1−t)b+td+(1−t)e である。一方、平面 EBJ 上の点は E+sEB+uEJ と表せ、その位置ベクトルは (s+u)b+3ud+(1−s)e となる。両者の係数を比べると s=t, u=3t, s+u=1−t なので t=51, s=51, u=53 を得る。従って EK=51EB+53EJ である。このとき AK=54b+51d+54e であり、t=51 は線分 FD 上にあることとも一致する。
(3) 線分 BJ 上の点を L=B+v(J−B) と表すと、EL=(1−v)EB+vEJ である。また E,K,L は一直線上だから、ある λ に対し EL=λEK=5λEB+53λEJ である。係数比較より 1−v=5λ, v=53λ、従って λ=45, v=43 であり、AL=b+41d+43e となる。
四面体 KFBL の底面を三角形 BFL とする。BF=e は長さ1であり、BL=41d+43e なので、L から直線 BF までの距離は 41∣d∣=43 である。よって底面積は 21⋅1⋅43=83 である。平面 BFL は e と d の方向を含む。一方、 BK=−51b+51d+54e であるから、K から平面 BFL までの距離は、b の d に垂直な成分の 51 に等しい。これは 51∣b∣sin60∘=53 である。したがって体積は 31⋅83⋅53=403 となる。