(1) ∠ABC=Bとする。余弦定理より 14=AC2=AB2+BC2−2⋅AB⋅BCcosB=25+4−20cosB, したがってcosB=3/4。Bは三角形の内角なのでsinB=1−(3/4)2=7/4である。よって [ABC]=21⋅5⋅2sinB=457.
(2) DA=9−xであるから、まず0<x<9。∠ABC=B、∠ADC=Dとおくと、円に内接する四角形の対角の和はπなのでD=π−B。対角線ACに余弦定理を用いると AC2=52+22−2⋅5⋅2cosB, AC2=x2+(9−x)2−2x(9−x)cosD=x2+(9−x)2+2x(9−x)cosB. 両式を等しくして cosB=2{5⋅2+x(9−x)}52+22−x2−(9−x)2. ここで分母は正であり、四角形が退化しないため∣cosB∣<1である。P=10+x(9−x)、T=29−x2−(9−x)2とおけば、P=10+9x−x2、T=−52+18x−2x2であり、 4P2−T2=(2P−T)(2P+T)=72⋅4(8−x)(x−1). したがって∣T∣<2Pは(8−x)(x−1)>0と同値であり、1<x<8を得る。
逆に1<x<8なら4P2−T2>0なので、cosB=T/(2P)を満たす0<B<πがとれる。辺5,2とその間の角Bで三角形ABCを作る。辺x,9−xとその間の角D=π−Bで三角形ADCを作ると、上の余弦定理の等式によって両三角形の辺ACが等しい。これらをACの反対側に合わせると、対角の和がπであるから円に内接する四角形ができる。よって範囲は正確に 1<x<8.
(3) 四角形の面積をK、P=5⋅2+x(9−x)、T=52+22−x2−(9−x)2とする。(2)よりcosB=T/(2P)、またD=π−BなのでsinD=sinB。対角線ACで分けた二つの三角形の面積を足すと K=21(5⋅2)sinB+21x(9−x)sinD=21PsinB. 従って K2=4P2(1−4P2T2)=164P2−T2=18(8−x)(x−1). ここで (8−x)(x−1)=449−(x−29)2≦449, 等号はx=9/2で成立する。この値は(2)の範囲内で、(2)の構成から実現できる。よって面積の最大値は Kmax=18⋅449=2212. 検算として、この最大値の二乗は441/2であり、x=9/2を面積二乗の式に代入した値と一致する。