すべての面が合同であるから、面 OAB と面 OBC の辺の長さの組は等しい。面 OAB の辺は 2,5,AB、面 OBC の辺は 5,5,BC である。したがって BC=2, AB=5 となる。同様に面 OAB と面 OAC の合同性から AC=5 である。
(1) ∣a∣2=2,∣b∣2=∣c∣2=5,AB2=AC2=5,BC2=2. よって
a⋅b=2∣a∣2+∣b∣2−AB2=22+5−5=1, b⋅c=2∣b∣2+∣c∣2−BC2=25+5−2=4, c⋅a=2∣c∣2+∣a∣2−CA2=25+2−5=1.
したがって
[AOB]=21∣a∣2∣b∣2−(a⋅b)2=212⋅5−1=23.
(2) OH=a+s(b−a)+t(c−a)=(1−s−t)a+sb+tc.
OH⊥AB=b−a より
0=OH⋅(b−a)=−1+5s+4t.
実際、a⋅(b−a)=1−2=−1、∣b−a∣2=AB2=5、(c−a)⋅(b−a)=4−1−1+2=4 である。同様に OH⊥AC=c−a より
0=OH⋅(c−a)=−1+4s+5t.
これらを解くと s=t=91 である。
(3) OH=97a+b+c より
OH2=81∣7a+b+c∣2=8149⋅2+5+5+14⋅1+14⋅1+2⋅4=916.
長さは正であるから OH=34。
(4) 直線CHと辺ABの交点をPとおく。OH=97a+b+c である。P は AB 上にあるので、ある実数 u に対して OP=(1−u)a+ub と表せる。また C,H,P は一直線上にあるので、ある実数 v に対して OH=(1−v)c+vOP と表せる。a,b,c の係数を比べると 1−v=91、vu=91 だから v=98, u=81 である。したがって AP:PB=u:(1−u)=1:7 となる。
平面 OCH は CP を含み、四面体を OACP と OBCP に分ける。両者の高さは共通だから、体積比は底面積比 [ACP]:[BCP]=AP:PB=1:7 である。底面 ABC は面 AOB と合同なので [ABC]=23。よって四面体全体の体積は
VOABC=31⋅23⋅34=32.
小さい方は全体の 81 だから、求める体積は 81⋅32=121。