(1) a=(1,3), b=(3,−1) より ∣a∣2=12+32=10,a⋅b=1⋅3+3⋅(−1)=0,∣b∣2=32+(−1)2=10 である。特に a⋅b=0 すなわち a⊥b であることに注意する。
p=(cosθ)a+(sinθ)b、q=(cos2θ)a+(sin2θ)b の内積を、内積の双線形性を用いて展開すると p⋅q=cosθcos2θ∣a∣2+cosθsin2θ(a⋅b)+sinθcos2θ(b⋅a)+sinθsin2θ∣b∣2 ここで a⋅b=b⋅a=0 なので、真ん中の2項は消え p⋅q=∣a∣2cos3θ+∣b∣2sin3θ=10cos3θ+10sin3θ=10(cos3θ+sin3θ) を得る。
(2) t=sinθ+cosθ を三角関数の合成により t=2sin(θ+4π) と表す。0≦θ<2π のとき θ+4π は 4π≦θ+4π<4π+2π の範囲を動き、長さ 2π の角をちょうど1周するから、sin(θ+4π) は −1 から 1 までのすべての値をとる。したがって −2≦t≦2 である(この範囲の任意の値は実際にある θ で実現される)。
次に t2=sin2θ+2sinθcosθ+cos2θ=1+2sinθcosθ より sinθcosθ=2t2−1 を得る。また因数分解公式より cos3θ+sin3θ=(sinθ+cosθ)(sin2θ−sinθcosθ+cos2θ)=t(1−sinθcosθ) ここに sinθcosθ=2t2−1 を代入すると cos3θ+sin3θ=t(1−2t2−1)=t⋅23−t2=2t(3−t2) したがって(1)の結果とあわせて p⋅q=10⋅2t(3−t2)=5t(3−t2)=−5t3+15t を得る(−2≦t≦2)。
(3) (2)の結果より、f(t)=−5t3+15t(−2≦t≦2)の最大値・最小値を求めればよい。 f′(t)=−15t2+15=−15(t2−1)=−15(t−1)(t+1) であり、−2≦t≦2 の範囲に t=±1 が含まれる(1<2)。増減表は次のとおり。 tf′(t)f(t)−2−52⋯−↘−10−10⋯+↗1010⋯−↘252 (端点の値は f(2)=−5⋅22+152=52、f(−2)=−52 と計算される。)
増減表より、f(t) は t=−1 で極小値 −10、t=1 で極大値 10 をとり、これらは端点での値 ±52(≈±7.07) より大きい(小さい)ので、区間全体での最大値は 10(t=1)、最小値は −10(t=−1)である。
最後に、これらの t の値を与える θ を求める。
t=1 のとき:sinθ+cosθ=1 すなわち 2sin(θ+4π)=1 より sin(θ+4π)=21。4π≦θ+4π<4π+2π の範囲でこれを満たすのは θ+4π=4π または θ+4π=43π、すなわち θ=0, 2π (検算:θ=0 のとき sin0+cos0=1、θ=π/2 のとき sin(π/2)+cos(π/2)=1、いずれも適する。)
t=−1 のとき:同様に sin(θ+4π)=−21 より θ+4π=45π または 47π、すなわち θ=π, 23π (検算:θ=π のとき sinπ+cosπ=−1、θ=3π/2 のとき sin(3π/2)+cos(3π/2)=−1、いずれも適する。)
別解による検算 直接 θ=0 を代入すると p=a, q=a となり p⋅q=∣a∣2=10。θ=π/2 では p=b, q=b となり p⋅q=∣b∣2=10。θ=π では p=−a, q=a となり p⋅q=−∣a∣2=−10。θ=3π/2 では p=−b, q=b となり p⋅q=−∣b∣2=−10。いずれも(1)〜(3)の結果と一致し、答えの正しさを確認できる。
以上より p⋅q の最大値は 10 (θ=0, π/2),最小値は −10 (θ=π, 3π/2)