3京都大学 2012年 数学 第3問解答・解説

$$s=x+y,\quad p=xy$$ とおくと、条件は $$x^2+xy+y^2=s^2-p=6$$ だから $p=s^2-6$ である。実数 $x,y$ が存在する条件は、方程式 $t^2-st+p=0$ の判別式が非負となることなので、 $$\Delta=s^2-4p=s^2-4(s^2-6)=24-3s^2\geq0 \quad\text{すなわち}\quad -2\sqrt2\leq s\leq2\sqrt2.$$ この区間の各 $s$ について実数 $x,y$ が存在する。

求める式を $E$ とすると、 $$E=xy(x+y)-(x+y)^2+(x+y)=sp-s^2+s=s(s^2-6)-s^2+s=s^3-s^2-5s=:f(s).$$ $-2\sqrt2\leq s\leq2\sqrt2$ の範囲で $$f'(s)=3s^2-2s-5=(s+1)(3s-5)$$ となり、導関数が0となる点は $s=-1,\,5/3$ である。端点と導関数が0となる点での値は $$\displaystyle f(-2\sqrt2)=-8-6\sqrt2,\quad f(-1)=3,\quad f(5/3)=-\frac{175}{27},\quad f(2\sqrt2)=6\sqrt2-8.$$ 導関数の符号は $-2\sqrt2<s<-1$ で正、$-1<s<5/3$ で負、$5/3<s<2\sqrt2$ で正である。したがって最大値は $3$、最小値は左端の $-8-6\sqrt2$ である。実際、$-8-6\sqrt2<-175/27$ であり、右端値 $6\sqrt2-8<3$ である。$f$ は連続で、$s$ は区間全体を動くから、値の範囲は $$\boxed{-8-6\sqrt2\leq E\leq3}.$$