) f(x1,x2)=x21-4x1x2+x22+x1+x2；

(3) f(x1,x2)=(x1-x2)2+4x1x2+ex1+x2；

(4) f(x1,x2)=x1e-(x1+x2)；

(5) f(x1,x2,x3)=x1x2+2x21+x22+2x23-6x1x3.

解(1) 2f(x)=

2-2

-22

为半正定矩阵，故f(x1,x2)是凸函数.

(2) 2f(x)=

2-4

-42

为不定矩阵，故f(x1,x2)不是凸函数.

(3) fx1=2(x1-x2)+4x2+ex1+x2,

fx2=-2(x1-x2)+4x1+ex1+x2,

2fx21=

2+ex1+x2，

2fx1x2=

2fx2x1=

2+ex1+x2，

2fx22=

2+ex1+x2，

因此Hesse矩阵

2f(x)=

2+ex1+x22+ex1+x2

2+ex1+x22+ex1+x2

=(2+ex1+x2)

11

11

为半正定矩阵，因此f(x)是凸函数.

(4) fx1=e-(x1+x2)-x1e-(x1+x2)=(1-x1)

e-(x1+x2),fx2=-x1e-(x1+x2),

2fx21=(x1-2)e-(x1+x2)

,

2fx1x2=2fx2x1=(x1-1)e-(x1+x2)

,

2fx22=x1e-(x1+x2),

于是Hesse矩阵

2f(x)=

e-(x1+x2)

x1-2x1-1

x1-1x1

为不定矩阵，故f(x)不是凸函数.

(5) f(x)的Hesse矩阵为

2f(x)=

41-6

120

-604

.

做合同变换：

41-6

120

-604

400

07432

032-5

400

070

00-447

.

由此可得2f(x)为不定矩阵，因此f(x)不是凸函数.

10. 设f(x1,x2)=10-2(x2-x21)2,

S={(x1,x2)|-11≤x1≤1,-1≤x2≤1},

f(x1,x2)是否为S上的凸函数？

解fx1=8x1(x2-x21),fx2=-4(x2-x21),

2fx21=8(x2-3x21),2fx1x2=

2fx2x1=8x1,2fx22=-4,

函数f(x1,x2)的Hesse矩阵为

2f(x)=

8(x2-3x21)8x1

8x1-4

.

易知2f(x)在集合S上不是半正定矩阵，如在点(0，1)处的Hesse矩阵是

80

0-4

，是不定矩阵.因此f(x1,x2)不是S上的凸函数.

11. 证明f(x)=12xTAx+bTx为严格凸函数的充要条件是Hesse矩阵A正定.

证先证必要性.设f(x)=12xTAx+bTx是严格凸函数.根据定理1.4.14，对任意非零向量x及x-=0，必有

f(x)＞f(0)+

f(0)Tx.(1)

将f(x)在x-=0处展开，有

f(x)=f(0)+f(0)Tx

+12xT

2f(0)x+o(||x||2).(2)

由(1)式和(2)式知

12xT

2f(0)x+o(||x||2)＞0.

由于f(x)是二次凸函数，2f(0)=A，o(||x||2)=0，因此xTAx＞0，即A正定.

再证充分性.设A正定，对任意两个不同点x和x-，根据中值定理，有

f(x)=f(x-)+

f(x-)T(x-x-)+12(x-x-)T2f(x^)(x-x-)

=f(x-)+

f(x-)T(x-x-)+12(x-x-)TA

(x-x-)

＞f(x-)+f(x-)T(x-x-).

根据定理1.4.14，f(x)=12xTAx+bTx是严格凸函数.

12. 设f是定义在Rn上的凸函数，x(1),x(2),…,x(k)是Rn中的点，λ1,λ2,…,λk是非负数，且满足λ1+λ2+…+λk=1，证明：

f