(1) 各頂点で鋭角となる条件を内積で調べる。 AB⋅APBA⋅BPPA⋅PB=(4,0)⋅(t+2,3t)=4(t+2)>0,=(−4,0)⋅(t−2,3t)=4(2−t)>0,=(−t−2,−3t)⋅(2−t,−3t)=4(t2−1)>0. t>0なので、3条件を合わせて 1<t<2 を得る。
(2) AB は x 軸上にあるから、P からの高度は直線 x=t である。垂心を H=(t,h) とすると、AH⊥BP より (t+2,h)⋅(t−2,3t)=0, したがって t2−4+3th=0 であり、 H=(t,3t4−t2).
(3) M,Q,R はそれぞれ AB,BP,PA の中点である。折り上げ後、3つの元の頂点 A,B,P は1点 S に重なる。中点連結定理から、四面体 SMQR の向かい合う辺の長さは u=MQ=SR=2AP=t2+t+1,v=MR=SQ=2BP=t2−t+1,w=QR=SM=2AB=2. この等向かい辺の四面体の頂点位置ベクトルを重心を原点として rM,rQ,rR,rS とし、 X=2rM+rQ,Y=2rM+rR,Z=2rM+rS とおく。向かい合う辺がそれぞれ等しいことから X,Y,Z は互いに直交する。座標軸をこれらの方向に取れば、4頂点は (x,y,z),(x,−y,−z),(−x,y,−z),(−x,−y,z) と表せる。したがって u2=4(y2+z2),v2=4(x2+z2),w2=4(x2+y2),V=38∣xyz∣, ゆえに V=621(u2+v2−w2)(v2+w2−u2)(w2+u2−v2). ここで u2+v2−w2=2(t2−1),v2+w2−u2=2(2−t),w2+u2−v2=2(t+2), だから V=31(t2−1)(4−t2). s=t2 とおくと 1<s<4 であり、 (t2−1)(4−t2)=(s−1)(4−s)=49−(s−25)2≦49. 等号は s=5/2、すなわち t=5/2=10/2 のときに成立する。この値は 1<t<2 を満たすので、最大体積は 1/2 である。