正四面体の各辺の長さは1であるから,∣a∣=∣b∣=∣c∣=1,また異なる2辺のなす角は60∘なので,a⋅b=b⋅c=c⋅a=21である。
位置ベクトルをOP=xa+yb+zcと表す。E,F,Dの係数はそれぞれ(s,0,0),(0,t,0),(21,0,21)である。平面DEFの方程式をx,y,zについて一次式で表すと,E,F,Dを代入してsx+ty+(2−s1)z=1を得る。Gは辺BC上にあるから,Gの係数を(0,y,z)とおけばy+z=1である。これを平面の式に代入するとt1−z+(2−s1)z=1,z=s+t−2sts(1−t),y=s+t−2stt(1−s).よってOG=s+t−2stt(1−s)b+s+t−2sts(1−t)c.なお,s+t−2st=s(1−t)+t(1−s)>0であり,0<s,t<1より両係数は正で,和は1となる。
(2) 線分ABを1:3に外分する点をPとすると,OP=23a−bである。Pが直線EF上にある条件は,そのa,bの係数を用いてsx+ty=1と表せるので,2s3−2t1=1,3t−s=2st.したがってt=3−2ssである。この関係を(1)に代入すると,s+t−2st=2(s−t)であり,s+t−2stt(1−s)=41,s+t−2sts(1−t)=43となる。よってOG=41b+43cである。
(3) 正四面体の辺ベクトルの内積から∣xa+yb+zc∣2=x2+y2+z2+xy+yz+zxである。したがってDF2=−21a+tb−21c2=t2−t+43,また(2)のGを用いるとFG2=(41−t)2+(43)2+(41−t)43=t2−45t+1613.条件DF=FGよりこれらの二乗を等しくしてt=41を得る。(2)の関係からs=21である。
このときDE=−21c,FG=43cより,四角形DEFGはDE∥FGの台形である。台形の高さはEFのcに垂直な成分の長さである。EF=−21a+41bだから∣EF∣2=163,EF⋅c=−81,h=∣EF∣2−(EF⋅c)2=811.また∣DE∣=21,∣FG∣=43である。よって面積は2∣DE∣+∣FG∣h=221+43⋅811=64511. 平面の一次関係は一般線形代数を使わず次のようにも導ける。平面DEF内の点を P=λE+μF+νD、λ+μ+ν=1 と表せば、x=sλ+ν/2,y=tμ,z=ν/2。この三式から x/s+y/t+(2−1/s)z=λ+μ+ν=1 となる。これは三角形内外の内分・外分による表示である。