(1) 余弦定理より 42=52+62−2⋅5⋅6cosA,cosA=43. 0<A<π なので sinA=1−cos2A=47. したがって [ABC]=21⋅5⋅6sinA=4157.
(2) x=ABAP、y=ACAQ とおく。0≦x,y≦1 であり、面積公式と共通の角Aから、[APQ]=21(AP)(AQ)sinA=xy[ABC]。線分 PQ が三角形の面積を二等分する条件は xy=21 である。よって 21≦x≦1,y=2x1. 三角形 APQ に余弦定理を用いると PQ2=(5x)2+(6y)2−2(5x)(6y)cosA=25x2+36y2−45xy=25x2+x29−245. ここで t=x2 とおけば 41≦t≦1 である。
相加相乗平均より 25t+t9≧225t⋅t9=30, 等号は t=53 で成立し、この値は許容範囲内にある。したがって PQ2≧30−245=215,PQmin=230.
最大値については、41≦t≦1<2536 より 4169−(25t+t9)=−4t100(t−41)(t−2536)≧0. よって PQ2≦4169−245=479。等号は t=41、すなわち x=21,y=1 で実現する。したがって PQmax=279. 答えは、(1) 4157、(2) 最小値 230、最大値 279 である。