(1) x=−ay とすると左辺は (1−a2)y2−2aby+1 となる。∣a∣>1 なら y2 の係数が負なので、十分大きな ∣y∣ で不等式に反する。∣a∣<1 では x2+y2+2axy+2bx+1=(x+ay+b)2+(1−a2)(y−1−a2ab)2+1−1−a2b2. よって全ての x,y で非負となる必要十分条件は b2≦1−a2。∣a∣=1 では左辺は (x+ay)2+2bx+1 となり、x+ay を固定したまま x を変えられるから b=0 が必要十分である。したがって領域は a2+b2≦1, すなわち境界を含む原点中心、半径1の円盤(軸との交点は (±1,0),(0,±1))。
(2) u=1−a2 とおけば 0≦u≦1 かつ −u≦b≦u。したがって a2+b≦1−u2+u=45−(u−21)2≦45. 等号は u=21, b=u、すなわち a=±23,b=21 で取る。下からは a2+b≧1−u2−u≧−1, 等号は u=1, a=0, b=−1 で取る。最大値は 45、最小値は −1。
図の円周は実線で、青く塗った内部と円周をともに含む。
(1) x=−ay とおくと左辺は (1−a2)y2−2aby+1 となる。∣a∣>1 なら y2 の係数が負で、大きな ∣y∣ で式は負になるため不可能。∣a∣<1 なら x2+y2+2axy+2bx+1=(x+ay+b)2+(1−a2)(y−1−a2ab)2+1−1−a2b2 と変形でき、全ての x,y で非負となる条件は b2≦1−a2。∣a∣=1 では二次式は (x+ay)2+2bx+1。x+ay を固定して x を変えられるため、全てで非負となるには b=0 が必要十分。この境界条件も含め、領域は a2+b2≦1、すなわち原点中心・半径1の閉円盤(境界を含む)である。 (2) u=1−a2(0≦u≦1) とする。円盤では −u≦b≦u だから a2+b≦1−u2+u=45−(u−21)2≦45。等号は u=21、b=u のとき、すなわち a=±23,b=21 で取る。最小値は b≧−u より a2+b≧1−u2−u≧−1(0≦u≦1)。等号は u=1(a=0), b=−1 で取る。