caoyongsheng的博客

ADMM算法是机器学习中比较广泛使用的约束问题最优化方法，它是ALM算法的一种延伸，只不过将无约束优化的部分用块坐标下降法（block coordinate descent，或叫做 alternating minimization）来分别优化。其中的原理可以参考大牛S.Boyd的文献 “Distributed Optimization and Statistical Learning via th

从等式约束的最小化问题说起：                                                                                        上面问题的拉格朗日表达式为：                                              也就是前面的最小化问题可以写为：