概述
此笔记来源于李宏毅老师的机器学习视频，以下属于自己的理解以及老师上课的内容，由于公式过多，不便于直接打字，故用手写笔记替代。
Github的链接（pdf）：https://github.com/Bessie-Lee/Deep-Learning-Recodes-LiHongyi
本文讲述的是自注意力机制的内部矩阵运算细节以及自注意力机制可以运用的领域（CV、NLP、Grape），最后将自注意力机制与CNN、RNN进行对比（self-attention可以进行并行运算用GPU加速，而RNN不可）
下文即手写笔记
最后
以上就是儒雅鲜花为你收集整理的[李宏毅老师深度学习视频] 自注意力机制 self-attention【手写笔记】的全部内容，希望文章能够帮你解决[李宏毅老师深度学习视频] 自注意力机制 self-attention【手写笔记】所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。
![[李宏毅老师深度学习视频] 自注意力机制 self-attention【手写笔记】](/uploads/reation/bcimg5.png)
发表评论 取消回复