概述
摘录自北京邮电大学计算机学院鲁鹏老师的PPT
Q1:多类支撑向量机损失Li的最大/最小值会是多少?
A1:依据多类支撑向量机损失的图像即可得解,最大值为无穷,最小值为0。
Q2:如果初始化时w和b很小,损失L会是什么?
A2:取极端情况,当w和b趋近于0时,那么计算出的Sij和Syi都趋近于0,所以Li的值趋近于N-1。L的值接近于N-1。可以用于检验编码是否有误。
Q3:考虑所有类别(包括j = yi),损失Li会有什么变化?
A3:Li会比原来不考虑j=yi的情况多1,对损失没有影响。
Q4:在总损失L计算时,如果用求和代替平均?
A4:对损失没有影响。
Q5:题目看上图
A5:会对结果产生影响。
当处于上图红框中的情况时,可能在训练时会出现损失变动不大,但是预测准确率在上升的情况。
最后
以上就是健康枫叶为你收集整理的多类支撑向量机损失和交叉熵损失及L1、L2正则项的全部内容,希望文章能够帮你解决多类支撑向量机损失和交叉熵损失及L1、L2正则项所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复