我是靠谱客的博主 热情星月，最近开发中收集的这篇文章主要介绍读后感 - Self-training with Noisy Student improves ImageNet classification，觉得挺不错的，现在分享给大家，希望可以做个参考。
概述
-
论文链接
https://arxiv.org/pdf/1911.04252v2.pdf -
我学到的思想
初始训练一个教师模型，用来给未标注的图片生成伪标注。用这些伪标注的图片，加上有标注的图片同时训练一个学生模型。通过给学生模型添加噪声使得学生模型优于教师模型，有更好的泛化能力，再用学生模型替代教师模型，以此迭代。 -
小细节
- 学生模型至少和教师模型一样复杂
- 用RandAugment进行数据增强，用dropout和stochastic depth给模型添加噪声
- 在平衡伪标注数据类别的时候，过采样数据少的类别，对于数据多的类别，保留教师模型标注下来置信度最高的数据
最后
以上就是热情星月为你收集整理的读后感 - Self-training with Noisy Student improves ImageNet classification的全部内容，希望文章能够帮你解决读后感 - Self-training with Noisy Student improves ImageNet classification所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。
发表评论 取消回复