logits 在深度学习中的意思

59 阅读 0 评论 39 点赞

我是靠谱客的博主鲜艳钢笔，最近开发中收集的这篇文章主要介绍logits 在深度学习中的意思，觉得挺不错的，现在分享给大家，希望可以做个参考。

概述

在卷积神经网络中， x经过激活后，没有经过sigmoid或者softmax处理的"东西"，如以下forward函数返回值就是logits

w1, b1 = torch.randn(200, 784, requires_grad=True),
         torch.zero(200, requires_grad=True) #ch_out,ch_in  784=28x28
w2, b2 = torch.randn(200, 200, requires_grad=True),
         torch.zero(200, requires_grad=True)
w3, b3 = torch.randn(10, 200, requires_grad=True),
         torch.zero(200, requires_grad=True)

def forward(x):
    x = x@w1.t() +b1#b1是[200]
    x = F.relu(x)
    x = x@w2.t() + b2
    x = F.relu(x)
    x = x @ w3.t() + b3
    x = F.relu(x)
    return x