自注意力与 Layer Normalization
计算自注意力中的查询、键、值、缩放得分、逐行 Softmax 权重及输出，并比较每个位置独立进行 Layer Normalization 前后的数值。
注意力权重表示当前模型计算中各键位置对查询输出的分配比例，不应自动解释为因果关系或人类可读的“重要性”。本页仅用随机生成的小矩阵核对公式与维度，没有训练语言模型，也不比较任务性能。
自注意力得分与权重
Layer Normalization
注意力输出与维度
逐位置统计量