LR的损失函数

http://blog.csdn.net/wjlucc/article/details/71095206

• 逻辑回归的损失函数使用的是对数损失函数，而不是平方损失函数。平方损失函数是线性回归在假设样本满足高斯分布的条件下推导得到的，而逻辑回归假设样本服从伯努力分布（0-1分布）。

* 伯努利概率分布

* 对数损失函数

常见损失函数

https://www.cnblogs.com/luxiao/p/5783017.html

* 对数损失

$L(Y,P(Y|X))=-log P(Y|X)$

* 平方损失

$L(Y,f(X))=(Y-f(X))^2$

* 指数损失（adaboost）

$L(y,f(x))=exp[-y f(x)]$

* Hinge损失(SVM)

* 其他