首页后端开发Pythonboosting和bootstrap区别
恒创 云服务器免费试用

boosting和bootstrap区别

时间2024-02-12 21:37:03发布访客分类Python浏览469
导读:收集整理的这篇文章主要介绍了boosting和bootstrap区别,觉得挺不错的,现在分享给大家,也给大家做个参考。bootstrap、boosting是机器学习中几种常用的重采样方法。其中bootstrap重采样方法主要用于统计量的估计...
收集整理的这篇文章主要介绍了boosting和bootstrap区别,觉得挺不错的,现在分享给大家,也给大家做个参考。bootstrap、boosting是机器学习中几种常用的重采样方法。其中bootstrap重采样方法主要用于统计量的估计,boosting方法则主要用于多个子分类器的组合。

bootstrap:估计统计量的重采样方法(推荐学习:Python视频教程)

bootstrap方法是从大小为n的原始训练数据集DD中随机选择n个样本点组成一个新的训练集,这个选择过程独立重复B次,然后用这B个数据集对模型统计量进行估计(如均值、方差等)。由于原始数据集的大小就是n,所以这B个新的训练集中不可避免的会存在重复的样本。

统计量的估计值定义为独立的B个训练集上的估计值θbθb的平均:

boosting:

boosting依次训练k个子分类器,最终的分类结果由这些子分类器投票决定。

首先从大小为n的原始训练数据集中随机选取n1n1个样本训练出第一个分类器,记为C1C1,然后构造第二个分类器C2C2的训练集D2D2,要求:D2D2中一半样本能被C1C1正确分类,而另一半样本被C1C1错分。

接着继续构造第三个分类器C3C3的训练集D3D3,要求:C1C1、C2C2对D3D3中样本的分类结果不同。剩余的子分类器按照类似的思路进行训练。

boosting构造新训练集的主要原则是使用最富信息的样本。

更多Python相关技术文章,请访问Python教程栏目进行学习!

以上就是boosting和bootstrap区别的详细内容,更多请关注其它相关文章!

声明:本文内容由网友自发贡献,本站不承担相应法律责任。对本内容有异议或投诉,请联系2913721942#qq.com核实处理,我们将尽快回复您,谢谢合作!

展开全文READ MORE
python库是什么意思 python卸载后怎么也安装不上

游客 回复需填写必要信息