68-Transformer

68-Transformer

目录

• 68-Transformer
  • 目录
  • 1.transformer架构
  • 2.多头注意力
  • 3.有掩码的多头注意力
  • 4.基于位置的前馈网络
  • 5.层归一化
  • 6.信息传递
  • 7.预测
  • 总结
  • QA

1.transformer架构

• 基于encoder-decoder架构来处理序列对
• 跟使用注意力的seq2seq不同，transformer是纯基于注意力

2.多头注意力

• 对同一key，value，query，希望抽取不同的信息

  • 例如短距离关系和长距离关系

• 多头注意力使用h个独立的注意力池化

  • 合并各个头（head）输出得到最终输出

  • 

• 数学表达式

  

3.有掩码的多头注意力

• 解码器对序列中一个元素输出的时候，不应该考虑该元素之后的元素
• 可以用掩码来实现
  • 也就是计算$x_i$输出的时候，假装当前序列长度为i

4.基于位置的前馈网络

• 将输入形状变化（b,n,d）变换成（bn，d）；输出形状由（bn，d）变成（b，n，d）
• 作用两个全连接层
• 等价于两层核窗口为1的一维卷积层（全连接）

5.层归一化

• 批量归一化对每个特征/通道里元素进行归一化
  • 不适合序列长度会变的nlp应用
• 层归一化对每个样本里面的元素进行归一化（ layer norm ）

6.信息传递

• 将编码器输出作为解码中第i个transformer块中多头注意力的key和value
  • query来自目标序列
• 意味着编码器和解码器中块的个数，输出维度都是一样的

7.预测

• 预测第t+1个输出时
• 解码器中输入前t个预测值（顺序）
  • 在自注意力中，前t个预测值作为key和value，第t个预测值还作为query

总结

• transformer是一个纯使用注意力的encoder-decoder
• 编码器和解码器都有n个transformer块
• 每个块里面使用多头注意力，基于位置的前馈网络，层归一化

QA

• 多头注意力，concat和相加取平均怎么选择？
  • 老师认为concat保留的信息更全面，更好
• 为什么在获取词向量之后，需要对词向量进行缩放（乘以embedding size的开方之后再加上PE）
  • embedding之后，向量长度变长，元素值变小，乘以之后可以保证在-1，1之间，和position大小差不多
• num of head是什么？
  • 类似卷积的多通道，多个attention关注的是不同的特征