深度学习中的注意力机制
前言本文翻译自《Attention?Attention!》博客最近几年，注意力——在深度学习社区中，已然成为最广为流行的概念和实用工具。在这篇博客里，我们将一起回顾它是如何被“发明”出来的，以及引申出来的各种变种和模型，如 transformer和SNAIL。目录Seq2Seq问题所在为”翻译“而生定义注意力机制”家族“概要自注意力机制（Self-Attention）柔性 vs 刚性注意力全局 vs 局部注意力指针网络(Pointer Network)Transformer.
