(1) 三角形の重心の位置ベクトルは OG=3a+b+c である。g=OG とおくと、 AG=g−a,BG=g−b,CG=g−c. したがって条件式の左辺は 4AG+3BG+5CG=4(g−a)+3(g−b)+5(g−c)=12g−(4a+3b+5c). これが 12OG=12g に等しいので、 4a+3b+5c=0.
(2) x=a⋅b、y=b⋅c、z=c⋅a とおく。(1)のベクトル等式の両辺に順に a,b,c を内積すると、各ベクトルの長さが5であることから 3x+5z=−100,4x+5y=−75,4z+3y=−125 を得る。最初の二式から 5z=−100−3x,5y=−75−4x. これらを三つ目の式に代入して5倍すると 4(−100−3x)+3(−75−4x)=−625, よって x=0。したがって y=−15, z=−20 であり、 a⋅b=0,b⋅c=−15,c⋅a=−20.
(3) 重心の位置ベクトルと(2)を用いて 9∣OG∣2=∣a+b+c∣2=∣a∣2+∣b∣2+∣c∣2+2(a⋅b+b⋅c+c⋅a)=75+2(0−15−20)=5. 長さは正なので ∣OG∣=35.