準備:各頂点の座標 平行六面体 OABC-DEFG において,底面 OABC は平行四辺形(頂点の順が O,A,B,C)なので,対角線 OB の中点は対角線 AC の中点と一致し, OB=OA+OC=(3,0,0)+(−1,6,−2)=(2,6,−2),B(2,6,−2) である。また,頂点 O,A,B,C を頂点 D,E,F,G にそれぞれ対応させる側稜 OD,AE,BF,CG が,同じ平行移動ベクトル v=OD=(t,−2,4) を表すから, E=A+v=(t+3,−2,4),F=B+v=(t+2,4,2),G=C+v=(t−1,4,2) であり,特に DE=OA=(3,0,0),DG=OC=(−1,6,−2) が成り立つ(この2式は以降で繰り返し使う)。点 P が平行四辺形 DEFG の周および内部にあることは,実数 p,q (0≦p≦1, 0≦q≦1) を用いて DP=pDE+qDG=pOA+qOC と表せることと同値である。
(1) 平面 OABC に垂直な単位ベクトル u=(x,y,z) が平面 OABC(OA,OC が張る平面)に垂直であるとは, u⋅OA=0,u⋅OC=0 が成り立つことである。 u⋅OA=3x=0 より x=0. u⋅OC=−x+6y−2z=0 より 6y−2z=0 (x=0 より) より y=3z. さらに ∣u∣=1 より x2+y2+z2=(3z)2+z2=910z2=1 より z2=109 より z=±103. z 成分が正となるものを選ぶと z=103,y=101 であるから, u=(0, 101, 103)=(0, 1010, 10310) (検算:02+(101)2+(103)2=101+9=1,u⋅OA=0,u⋅OC=−0+6⋅101−2⋅103=0 を確認できる。)
(2) 線分 OQ の長さ 平面 α(D,E,F,G を含む平面)は,平面 OABC を v=OD だけ平行移動した平面である(DE=OA, DG=OC より,α は OA,OC と同じ2方向で張られる)。したがって α の法線ベクトルも u であり,α は点 D を通るから,O から α に下ろした垂線の長さ(符号付き距離の絶対値)は OQ=OD⋅u で与えられる。 OD⋅u=t⋅0+(−2)⋅101+4⋅103=10−2+12=1010=10. これは t に依存せず常に正であるから, OQ=10 また,このとき Q=O+OQ⋅u=10(0,101,103)=(0,1,3) となる(t によらず一定の点)。これは(3)(4)で用いる。
(3) 点 Q が平行四辺形 DEFG 内にある t の範囲 Q(0,1,3) が平行四辺形 DEFG の周および内部にあることは,0≦p≦1, 0≦q≦1 を満たすある実数 p,q に対して DQ=pOA+qOC が成り立つことと同値である。 DQ=Q−D=(0,1,3)−(t,−2,4)=(−t, 3, −1). 右辺を成分で書くと pOA+qOC=p(3,0,0)+q(−1,6,−2)=(3p−q, 6q, −2q). z 成分:−1=−2qよりq=21。 y 成分:3=6q=3(恒等的に成立,t に無関係)。 x 成分:−t=3p−q=3p−21よりp=61−2t。
したがって,0≦q=21≦1 は常に成り立つので,条件は 0≦p≦1,すなわち 0≦61−2t≦1 すなわち 0≦1−2t≦6 すなわち −5≦−2t≦5 すなわち −25≦t≦21. (検算:t=−25 のとき p=1(辺 EF 上の中点),t=21 のとき p=0(辺 DG 上の中点)となり,範囲の端点で Q がちょうど周上に来ることと整合する。) −25≦t≦21
(4) m の値と S=m となる点 P 点 P が平行四辺形 DEFG の周および内部を動くとき,OP=OD+pOA+qOC (0≦p,q≦1) と表せる。
まず,q を Δq だけ変化させると,P は OC 方向(DG=OC 方向)に ΔqOC だけ平行移動する。△OCP の底辺 OC は固定されているから,P が直線 OC に平行な方向へ動いても,P から直線 OC までの距離(=高さ)は変化しない。よって面積 S は q にはよらず,p のみの関数である。ゆえに q=0 として計算してよい。
q=0 のとき OP=OD+pOA=(t+3p, −2, 4)=:(w, −2, 4)(w:=t+3p). △OCP の面積は,a=OC, b=OP とし,そのなす角を θ (0<θ<π) とすると S=21∣a∣∣b∣sinθ,cosθ=∣a∣∣b∣a⋅b,sinθ=1−cos2θ (≧0) であるから, S=21∣a∣2∣b∣2−(a⋅b)2. ここで ∣OC∣2=(−1)2+62+(−2)2=41, ∣OP∣2=w2+(−2)2+42=w2+20, OC⋅OP=(−1)w+6(−2)+(−2)(4)=−w−20. よって 4S2=41(w2+20)−(−w−20)2=41w2+820−(w2+40w+400)=40w2−40w+420. 平方完成すると 4S2=40(w−21)2+420−40⋅41=40(w−21)2+410. これは w=21 のとき最小値 410 をとる(w は p の1次式なので,w を自由に動かせる限りこれが真の最小値である)。
w=t+3p=21 を解くと p=321−t=61−2t であり,これは(3)で求めた p(Q に対応する p)と一致する。(3)より,t が −25≦t≦21 の範囲にあるとき,この p はちょうど 0≦p≦1 を満たす。したがって,この範囲の t に対しては,最小値を与える p=61−2t は 0≦p≦1 を満たし、平行四辺形 DEFG 内で実現でき, 4Smin2=410 より Smin=2410. m=2410
次に,S=m となる点 P をすべて求める。上で見たように,S は q に依存しないので,p=61−2t(q は 0≦q≦1 の任意の値)を満たす点すべてで S=m となる。このときの OP の x 座標は t+3p=t+3⋅61−2t=t+21−2t=22t+1−2t=21 となり,t の値によらず一定である。したがって,S=m を与える点は P=OD+pOA+qOC=(21, −2, 4)+q(−1,6,−2)=(21−q, −2+6q, 4−2q)(0≦q≦1) であり,これは t の値によらず,2点 (21,−2,4)(q=0),(−21,4,2)(q=1) を結ぶ線分(両端点を含む)に一致する。すなわち S=mとなる点Pは,2点(21,−2,4)と(−21,4,2)を結ぶ線分上のすべての点 である。
(検算:t の一例として t=0 をとると,D(0,−2,4),E(3,−2,4),F(2,4,2),G(−1,4,2) であり,(21,−2,4) は辺 DE 上(0≦21≦3),(−21,4,2) は辺 GF 上(−1≦−21≦2)にあって,線分全体が平行四辺形の内部を通ることが確認できる。また,端点 P=(21,−2,4) について直接 4S2=41((21)2+20)−(−21−20)2=41⋅20.25−20.52=830.25−420.25=410 となり,S=2410 に一致する。同様に (−21,4,2) でも 4S2=41(0.25+16+4)−(0.5+24−4)2=41⋅20.25−20.52=410 となり一致する。他方,t=−25 のとき p=1 となって (21,−2,4),(−21,4,2) はそれぞれ辺 EF の両端 E,F に一致し,t=21 のとき p=0 となって同じ2点がそれぞれ辺 DG の両端 D,G に一致し,範囲の境界でも矛盾なく整合する。)