健康枫叶

文章
6
资源
1
加入时间
2年10月17天

多类支撑向量机损失和交叉熵损失及L1、L2正则项

摘录自北京邮电大学计算机学院鲁鹏老师的PPTQ1:多类支撑向量机损失Li的最大/最小值会是多少?A1:依据多类支撑向量机损失的图像即可得解,最大值为无穷,最小值为0。Q2:如果初始化时w和b很小,损失L会是什么?A2:取极端情况,当w和b趋近于0时,那么计算出的Sij和Syi都趋近于0,所以Li的值趋近于N-1。L的值接近于N-1。可以用于检验编码是否有误。Q3:考虑所有类别(包括j = yi),损失Li会有什么变化?A3:Li会比原来不考虑j=yi的情况多1,对损失没有影响。Q4