优化问题

优化问题

约束优化问题

$$\min_w f(w) \\ s.t. \quad g_i(w)<=0 \quad (i=1,2,3...,k) \\ \quad sh_j(w)=0 \quad (j=1,2,3...l)$$

• 约束优化问题是一个最小化问题
• 不等式约束严格执行的含义是“小于等于号”变成“小于号”

凸函数

略

凸优化问题

凸优化问题是特殊的约束最优化问题。其一般形式形式和约束最优化问题一样。
假设$f(x),g(x),h(x)$在定义域内是连续可微的,且目标函数$f(x)$和不等式约束函数$g(x)$是凸函数,等式约束$h(x)$是仿射函数(线性函数),则这种约束最优化问题称为凸优化问题。
因此凸优化问题的特点:

• 目标函数$f(x)$不等式约束函数$g(x)$和不等书约束$h(x)$是凸函数
• 满足约束最优化问题的一般形式

二次规划(只讨论凸二次规划)

凸二次规划问题是凸优化问题的一个特殊形式,当目标函数$f(x)$是二次型函数且约束函数$g(x),h(x)$是仿射函数时,就变成一个凸二次规划问题。凸二次规划问题的一般形式为:

$$\min_x \quad \frac{1}{2}x^TQx + c^Tx \\ s.t. \quad g_i(x)<=0 \quad (i=1,2,3...k) \\ \qquad \quad h_j(x)=0 \quad (j=1,2,3...l)$$

$Q$是一个对称矩阵,$c^T$是一个向量,$g_i(x)$和$h_j(x)$都是线性函数