辺の長さと内積の関係から, a⋅bb⋅cc⋅a=2OA2+OB2−AB2=21,=2OB2+OC2−BC2=21,=2OC2+OA2−CA2=0. よって問1の答えは ア=21, イ=21, ウ=0 である。
次に OH=αa+βb+γc とおく。OH は平面 ABC に垂直なので, OH⋅(b−a)=0,OH⋅(c−a)=0. 上で求めた内積を代入して整理すると, −α+β+γ=0,−α+3γ=0. したがって (α,β,γ)=t(3,2,1) と書ける。ここで n=3a+2b+c とおくと, n⋅a=4,n⋅n=24. 点 H は平面 ABC 上にあるから (OH−a)⋅n=0 である。よって OH=tn として 24t=4,すなわち t=61 を得る。 OH=61(3a+2b+c)=21a+31b+61c. よって問2の答えは エ=21, オ=31, カ=61 である。
三角形 ABC の内心 I について,内心を頂点とする三つの三角形は高さが等しいので,その面積比は各辺の長さの比に等しい。したがって頂点 A,B,C に対応する係数は,それぞれ BC,CA,AB に比例し, OI=AB+BC+CABCa+CAb+ABc=3+33a+2b+c. 各係数を有理化すると, OI=23−1a+33−3b+63−3c. よって問3の答えは キ=23−1, ク=33−3, ケ=63−3 である。
問4では,まず OH2=61n2=3624=32 である。よって直角三角形 OHA,OHB,OHC から, HA2=HB2=1−32=31,HC2=3−32=37. また AB2+BC2=1+3=4=AC2 なので ∠ABC=90∘ である。平面 ABC 内に B を原点,BA,BC をそれぞれ正の X,Y 軸とする直交座標をとると, B=(0,0),A=(1,0),C=(0,3). H=(u,v) とおく。HA=HB より u=21,さらに HB2=31 より v2=121 である。HC2=37 を満たすのは v=231 なので, H=(21,231). 三角形 ABC の面積は 23,半周長は 23+3 だから,内接円の半径は r=(AB+BC+CA)/2[ABC]=3+33=23−1. 座標軸からの距離がともに r である内心は I=(r,r) である。A,H,I の座標を比較すると, I−H=(3−2)(A−H) となるので,A,H,I は一直線上にあり, AH=41+121=31,HI=(2−3)AH=32−3. D は OA を x:(1−x) に内分するから OD=xa である。また, HD=xa−OH=x(a−OH)+(x−1)OH=xHA+(x−1)OH. 第一項は直線 HI に平行であり,第二項は平面 ABC に垂直である。したがって D から直線 HI までの距離は (1−x)OH=(1−x)32 である。よって S=21HI(1−x)OH=62(2−3)(1−x). S=242 を代入すると (2−3)(1−x)=41 であり,2+3=2−31 より, x=1−42+3=42−3. 0<2−3<4 であるから,この値は条件 0<x<1 を満たす。最後に代入すると S=242 となり,条件にも合う。