最近一个月深度学习的经验总结
一、训练模型1、在进行模型训练时,要谨慎使用数据增强方法,滥用数据增强的一些方法(尤其是裁剪和旋转)会反而导致模型的性能下降,这是因为裁剪和旋转容易带来额外的噪音,导致了训练集和测试集差异过大,在用inception进行迁移学习时尤为明显,VGG会好一些,但也有所下降。2、大bitchsize不一定就比小bitchsize要快。3、VGGnet很容易出现梯度消失的情况,解决方法加BN层或换模...