面 OAB の辺長 3,7,2 は互いに異なる。面 OAC もこれと合同で辺 OA=3 を共有するから {AC,OC}={7,2}。面 OBC も合同で辺 OB=7 を共有するから {OC,BC}={3,2}。したがって OC=2, AC=7, BC=3。
(1) a=OA, b=OB, c=OC とおく。辺の長さから a⋅b=6, a⋅c=3, b⋅c=1。H は平面 L 上への C の正射影なので OH=xa+yb とおけば、CH は a,b の両方に垂直である。よって 9x+6y=3, 6x+7y=1 となり、x=5/9, y=−1/3。したがって OH=95OA−31OB。さらに ∣OH∣2=OH⋅c=95⋅3−31⋅1=34 なので、CH2=OC2−OH2=4−34=38、すなわち d=CH=326。
(2) 平面 L 上の点を ua+vb と表すと、PtQt は u+v=t を満たす直線上にある。C の正射影 H の係数和は 5/9−1/3=2/9 である。平面 M はこの直線を含み L に垂直だから、以下のように切り口が変わる。
0<t≦2/9 のとき、切り口は Pt,Qt と辺 OC 上の点 Rt を頂点とする三角形である。Rt=λC とすると、その正射影の係数和は 2λ/9 なので λ=9t/2。また PtQt=tAB=2t であり、Rt の L からの高さは λd。よって S(t)=21(2t)(29td)=36t2。
2/9<t<1 のとき、切り口は Pt,Qt と辺 AC,BC 上の点 Rt,St を頂点とする台形である。Rt=(1−λ)A+λC とおくと、正射影の係数和は 1−λ+2λ/9=1−7λ/9 だから λ=9(1−t)/7。同じ λ で St=(1−λ)B+λC となる。従って RtSt∥PtQt、RtSt=2(1−λ)、台形の高さは λd である。ゆえに S(t)=22t+2(1−λ)λd=49126(8t−1)(1−t)。t=2/9 では両式は一致する。
(3) 0<t≦2/9 では 36t2 は増加し、その最大値は 46/27。後半では (8t−1)(1−t)=−8(t−9/16)2+49/32 だから、t=9/16 で最大となり、その値は 36/8。4/27<3/8 よりこれが全体の最大値である。