(1) 点 A,B,C の位置ベクトルをそれぞれ a,b,c とする。内分の公式より OD=(1−t)b+tc,OE=(1−t)c+ta,OF=(1−t)a+tb. したがって OD+OE+OF=a+b+c. 三角形の重心の位置ベクトルは頂点の位置ベクトルの平均だから、△DEF の重心の位置ベクトルは 3a+b+c であり、△ABC の重心と一致する。
(2) D,E,F はそれぞれ辺の内点なので、△ABC は △DEF と3つの三角形 AEF,BFD,CDE に分割される。△AEF と △ABC は頂点 A の角を共有し、AF=tAB, AE=(1−t)AC であるから S[AEF]=ABAFACAE=t(1−t). 同様に、頂点 B では BF=(1−t)BA, BD=tBC、頂点 C では CD=(1−t)CB, CE=tCA より S[BFD]=S[CDE]=t(1−t). よって ST=1−3t(1−t)=3t2−3t+1=3(t−21)2+41. 0<t<1 の範囲に t=21 が含まれるので、最小値は 41 である。
(3) ∠BAC を A とすると、余弦定理から cosA=2AB⋅ACAB2+AC2−BC2=2⋅3⋅432+42−52=0, したがって A=90∘ である。AB,AC を座標軸にとり、A=(0,0),B=(3,0),C=(0,4) とおく。内分の公式から D=(3(1−t),4t),E=(0,4(1−t)),F=(3t,0). 各頂点で隣り合う2辺の内積が 0 となることが、そこで直角となる条件である。まず D について DE=(−3(1−t),4(1−2t)),DF=(3(2t−1),−4t), より DE⋅DF=(1−2t)(9−25t). したがって D が直角となるのは t=21,259 である。次に E について ED=(3(1−t),4(2t−1)),EF=(3t,−4(1−t)), より ED⋅EF=(1−t)(16−23t). 0<t<1 だから、E が直角となるのは t=2316 である。最後に F について FD=(3(1−2t),4t),FE=(−3t,4(1−t)), より FD⋅FE=t(7+2t)>0 となり、F が直角となる値はない。(2)より T/S=3(t−21)2+41>0 なので △DEF は退化せず、以上の条件で直角三角形となる。求める値は t=259,21,2316 であり、いずれも 0<t<1 を満たす。