Non-local Neural Networks（非局部神经网络）：使用自注意力机制捕获远程依赖。 论文： https://arxiv.org/pdf/1711.07971.pdf 源码： 长距离依赖关系，顾名思义，是要和远程建立关系，在l…

手把手使用PyTorch实现Transformer以及Transformer-XL Abstract of Attention is all you need使用PyTorch实现Transformer1. 构建Encoder-Decoder模型1.1 导入依赖库1.2 创建Encoder-Decoder类1.3 创建Generator类 2. 构建Encoder2.1 定义复制模块的函数2.2 创建Encoder2.3 构…