本文探讨了过拟合这一常见机器学习问题的解决方案，包括增加数据量、特征选择与提取（如PCA）、以及正则化等方法。正则化通过引入L1或L2范数约束，有效防止模型复杂度过高，避免过拟合现象。
过拟合解决办法：
-
加数据
-
特征选择/特征提取（比如PCA）
-
正则化
正则化框架：
常用的有两种范数:
L1正则是不存在解析解的，我们能求L2范数的目标函数：
所以w为：
对目标函数求导，令其导数为0：
得w估计：
与最小二乘估计对比：
扫一扫
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
过拟合解决办法：
加数据
特征选择/特征提取（比如PCA）
正则化
正则化框架：
常用的有两种范数:
L1正则是不存在解析解的，我们能求L2范数的目标函数：
所以w为：
对目标函数求导，令其导数为0：
得w估计：
与最小二乘估计对比：
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
