目标实验目标
把多头注意力的三个关键参数单独调出来:头数 H(能同时抓几种关系)、每头维度 d/H(每头的工作空间)、温度(softmax 的锐利度)。
怎么玩先把几个头切换着看:头 1 盯主语,头 2 盯宾语,头 3 盯指代……同一个词在不同头里算出完全不同的分布,这就是「多头各管一摊」。
参数控制
H 越大,能同时建模的关系种类越多。
每头维度 = d_model / H,会自动算出来。
T 低 → 权重更集中;T 高 → 目光更分散。
维度账头和维度的关系
关键8 个头 × 64 维 = 512 维,和单个 512 维的头总计算量持平。所谓「切」,切的是每个头的工作空间,不是输入——每个头都用完整的 d_model 维作输入。
热力图当前头的注意力分布
每一行 = 一个词(发出查询),每一列 = 它看向的词。颜色越深,权重越重;每行加起来约 100%。
对比各头在看什么
挑战实验课挑战
挑战 1 · 找分工的头
逐个切换头,找出「盯着前一个词」的那个头,和「盯着句首主语」的那个头。它们的图案差在哪?
逐个切换头,找出「盯着前一个词」的那个头,和「盯着句首主语」的那个头。它们的图案差在哪?
挑战 2 · 维度的账
H 从 4 调到 8,每头维度从多少变成多少?总维度变了吗?
H 从 4 调到 8,每头维度从多少变成多少?总维度变了吗?
挑战 3 · 温度的作用
T 从 1.0 降到 0.4,热力图是不是变得更「非黑即白」?这类似真实模型的什么现象?
T 从 1.0 降到 0.4,热力图是不是变得更「非黑即白」?这类似真实模型的什么现象?
挑战 4 · 单头的局限
把 H 设为 1,这个头被迫同时兼顾主谓和动宾。热力图能看出「混成一团」吗?
把 H 设为 1,这个头被迫同时兼顾主谓和动宾。热力图能看出「混成一团」吗?