1. 增广Largrangian乘子法

* Lrgrangian法的不足：

• 只有约束是具有局部凸结构，对偶的无约束优化才有良好的定义
• 目标函数的收敛费时间，

* 罚函数：

• 收敛慢
• 数值的不稳定

* 解决方法，两种方法结合

2. 增广Largrangian法

2.1 等式约束

2.2 不等式约束