Farkas'Lemma 和 S-Lemma

博客围绕给定(不)等式寻找等价形式的问题展开,介绍了针对线性或一般凸(不)等式的Farkas引理,给出多个相关定理及证明;还阐述了针对二次(不)等式的S-引理,给出定理内容。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

A Fundamental Question: 给定一个(不)等式,如何寻找其等价形式?

∙  \bullet\; 对于线性或者一般的凸(不)等式 ,有 Farkas引理

∙  \bullet\; 对于二次(不)等式 ,则有 S-引理 ------------------- S-Lemma本质上是Hilbert零点定理的特例?

凸锥的对偶的计算

Farkas引理

These results essentially state that a concave inequality is a (logical) consequence of some convex inequalities if and only if it is a nonnegative linear combination of those convex inequalities and an identically true inequality. This is important, since it is relatively easy to check if an inequality is a linear combination of some other inequalities.

定理. (Farkas’ lemma) 假设 A∈Rm×nA\in\mathbb{R}^{m\times n}ARm×nb∈Rmb\in\mathbb{R}^mbRm。则 Ax=b  (x≥0)Ax=b \;(x\ge 0)Ax=b(x0) 有可行解当且仅当 ATy≤0⇒bTy≤0A^Ty\leq 0\Rightarrow b^Ty\leq 0ATy0bTy0
Proof. 定义一个凸锥 K={y ∣ ATy≤0}\mathcal{K}=\{y\,|\,A^Ty\leq 0\}K={yATy0} 它的对偶锥是 K∗={Ax ∣ x≥0}\mathcal{K}^*=\{Ax\,|\,x\ge 0\}K={Axx0} 而根据定义有 K∗={b ∣ bTy≤0,  ∀y∈K}\mathcal{K}^*=\{b\,|\,b^Ty\leq 0, \; \forall y\in\mathcal{K}\}K={bbTy0,yK} 注意到 Ax=b (x≥0)Ax=b\,(x\ge 0)Ax=b(x0) 有可行解等价于 b∈K∗b\in\mathcal{K}^*bK,引理即可得证。

定理. (Farkas’ lemma variant) 假设 A∈Rm×nA\in\mathbb{R}^{m\times n}ARm×nb∈Rmb\in\mathbb{R}^mbRm。则 Ax≤bAx\leq bAxb 有可行解当且仅当 Ax=0  (x≥0)⇒bTx≥0Ax=0\;(x\ge 0)\Rightarrow b^Tx\ge 0Ax=0(x0)bTx0

定理. 假设 KKK 是一个闭凸锥,K∗K^*K 是其对偶,则 x∈Kx\in KxK 当且仅当对任意 y∈K∗y\in K^*yKyTx≥0y^T x\ge 0yTx0

定理. (Farkas’ Theorem) 假设 f,g1,⋯&ThinSpace;,gm:Rn→Rf,g_1,\cdots,g_m:\mathbb{R}^n\rightarrow\mathbb{R}f,g1,,gm:RnR 是一组凸函数,C⊂Rn\mathcal{C}\subset\mathbb{R}^nCRn 是一个凸集,如果 g1,⋯&ThinSpace;,gmg_1,\cdots,g_mg1,,gm 满足 Slater 条件,也即,存在 C\mathcal{C}C 的一个内点 xˉ\bar{x}xˉ 使得 gi(xˉ)&lt;0,i=1,⋯&ThinSpace;,mg_i(\bar{x})&lt;0, i=1,\cdots,mgi(xˉ)<0,i=1,,m。则下列两组论述等价:
(1) 不等式组
f(x)&lt;0f(x)&lt;0f(x)<0 gi(x)≤0,i=1,⋯&ThinSpace;,mg_i(x)\leq0, i=1,\cdots,mgi(x)0,i=1,,m x∈Cx\in\mathcal{C}xC 无解。
(2) 存在 y1,⋯&ThinSpace;,ym≥0y_1,\cdots, y_m\ge 0y1,,ym0,使得对所有的 x∈Cx\in\mathcal{C}xC
f(x)+∑i=1mgi(x)≥0f(x)+\mathop{\sum}\limits_{i=1}^m g_i(x) \ge 0f(x)+i=1mgi(x)0

Proof. 定理的证明主要是基于分离技巧 (separation argument) ,一个关键的事实是:
集合 S={(u,v1,⋯&ThinSpace;,vm)∈Rm+1:∃&ThickSpace;x∈Rn,f(x)&lt;u,gi(x)≤vi,i=1,⋯&ThinSpace;,m}S=\{(u,v_1,\cdots,v_m)\in\mathbb{R}^{m+1}:\exist\;x\in\mathbb{R}^n,f(x)&lt;u,g_i(x)\leq v_i, i=1,\cdots,m\}S={(u,v1,,vm)Rm+1:xRn,f(x)<u,gi(x)vi,i=1,,m} 是一个凸集,并且 (1) 中的不等式组无解当且仅当 0∉S0\notin S0/S

关于SDP的Farkas引理,可以参考 Ye 的 Linear Conic Programming 第28页。

S-引理

定理. (S-lemma, Yakubovich) 假设 f,g:Rn→Rf,g:\mathbb{R}^n\rightarrow\mathbb{R}f,g:RnR 是二次函数,并且存在 xˉ∈Rn\bar{x}\in\mathbb{R}^nxˉRn 使得 g(xˉ)&lt;0g(\bar{x})&lt;0g(xˉ)<0。则下列两个论述等价:
(1) 不等式组
f(x)&lt;0f(x)&lt;0f(x)<0 g(x)≤0g(x)\leq 0g(x)0 无解
(2) 存在 y≥0y\ge 0y0 使得对任意 x∈Rnx\in\mathbb{R}^nxRn,有
f(x)+yg(x)≥0f(x)+yg(x)\ge 0f(x)+yg(x)0

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

zte10096334

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值