摘录自北京邮电大学计算机学院鲁鹏老师的PPT






Q1:多类支撑向量机损失Li的最大/最小值会是多少?
A1:依据多类支撑向量机损失的图像即可得解,最大值为无穷,最小值为0。
Q2:如果初始化时w和b很小,损失L会是什么?
A2:取极端情况,当w和b趋近于0时,那么计算出的Sij和Syi都趋近于0,所以Li的值趋近于N-1。L的值接近于N-1。可以用于检验编码是否有误。
Q3:考虑所有类别(包括j = yi),损失Li会有什么变化?
A3:Li会比原来不考虑j=yi的情况多1,对损失没有影响。
Q4:在总损失L计算时,如果用求和代替平均?
A4:对损失没有影响。
Q5:题目看上图
A5:会对结果产生影响。












当处于上图红框中的情况时,可能在训练时会出现损失变动不大,但是预测准确率在上升的情况。
最后
以上就是健康枫叶最近收集整理的关于多类支撑向量机损失和交叉熵损失及L1、L2正则项的全部内容,更多相关多类支撑向量机损失和交叉熵损失及L1、L2正则项内容请搜索靠谱客的其他文章。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复