无约束优化的算法

1. 平滑凸函数

* 一阶算法

• 梯度方法
• 共轭方向法
• 信頼域法
• Nesterov最优梯度法

* 二阶算法

• 牛顿方法
• 拟牛顿法

2. 非平滑凸函数

* 非平滑函数的次梯度法

• 次梯度法

* 非平滑函数的平滑凸优化

• prominal gradient descent
• ISTA
• FISTA