IRNET 的 memory augmented pointer network

选择一个列 $c$ 的概率为：
$$\begin{array}{rl}p\left(a_i=\mathrm{S}\mathrm{E}\mathrm{L}\mathrm{E}\mathrm{C}\mathrm{T}\mathrm{C}\mathrm{O}\mathrm{L}\mathrm{U}\mathrm{M}\mathrm{N}[c]\mid x,s,a_{<i}\right)& =p\left(\mathrm{M}\mathrm{E}\mathrm{M}\mid x,s,a_{<i}\right)p\left(c\mid x,s,a_{<i},\mathrm{M}\mathrm{E}\mathrm{M}\right)\\ & +p\left(\mathrm{S}\mid x,s,a_{<i}\right)p\left(c\mid x,s,a_{<i},\mathrm{S}\right)\\ p\left(\mathrm{M}\mathrm{E}\mathrm{M}\mid x,s,a_{<i}\right)& =\mathrm{sigmod}\left({\mathbf{w}}_m^{\top }{\mathbf{v}}_i\right)\\ p\left(\mathrm{S}\mid x,s,a_{<i}\right)& =1-p\left(\mathrm{MEM}\mid x,s,a_{<i}\right)\\ p\left(c\mid x,s,a_{<i},\mathrm{M}\mathrm{E}\mathrm{M}\right)& \propto \exp \left({\mathbf{v}}_i^{\top }{\mathbf{E}}_c^m\right)\\ p\left(c\mid x,s,a_{<i},\mathrm{S}\right)& \propto \exp \left({\mathbf{v}}_i^{\top }{\mathbf{E}}_c^s\right)\end{array}$$
其中，

table_appear_mask_val = torch.from_numpy(table_appear_mask)
if self.cuda:
table_appear_mask_val = table_appear_mask_val.cuda()
if self.use_column_pointer:
gate = F.sigmoid(self.prob_att(att_t))
weights = self.column_pointer_net(src_encodings=table_embedding, query_vec=att_t.unsqueeze(0),
src_token_mask=None) * table_appear_mask_val * gate + self.column_pointer_net(
src_encodings=table_embedding, query_vec=att_t.unsqueeze(0),
src_token_mask=None) * (1 - table_appear_mask_val) * (1 - gate)
else:
weights = self.column_pointer_net(src_encodings=table_embedding, query_vec=att_t.unsqueeze(0),
src_token_mask=batch.table_token_mask)
weights.data.masked_fill_(batch.table_token_mask.bool(), -float('inf'))
column_attention_weights = F.softmax(weights, dim=-1)

最后

以上就是开心曲奇为你收集整理的IRNET 的 memory augmented pointer network的全部内容，希望文章能够帮你解决IRNET 的 memory augmented pointer network所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。