平面ABC内の方向ベクトルはAB=(−1,2,0)、AC=(−1,1,2)である。n=(4,2,1)とおくと、n⋅AB=0、n⋅AC=0だから、nは平面ABCに垂直である。 (1) 平面ABCの方程式は、点Aを通り法線ベクトルがnであることから4(x−2)+2y+z=0、すなわち4x+2y+z=8である。OH⊥ABCより、H=(4k,2k,k)とおける。これを平面の方程式に代入すると21k=8なので、H=(2132,2116,218)である。一方、a=(2,0,0), b=(1,2,0), c=(1,1,2)より、sa+tb+uc=(2s+t+u,2t+u,2u)である。各成分を比較して2u=218、2t+u=2116、2s+t+u=2132を解くと、u=214, t=72, s=2111を得る。 (2) Pは直線AH上にもBC上にもあるので、実数r,qを用いてP=A+r(H−A)=B+q(C−B)とおく。各表示の座標は(2−2110r,2116r,218r)、(1,2−q,2q)である。第1成分を比較してr=1021、第3成分を比較してq=52となる。このとき第2成分も58=2−52と一致する。したがってBP:PC=q:(1−q)=52:53=2:3。 (3) 上よりP=(1,58,54)だから、AP=(−1,58,54)。よってAP=(−1)2+(58)2+(54)2=25105=5105。