手动调参版

注意力与多头 · 手动调参

拖动滑块调整头数、每头维度与缩放强度,看注意力权重热力图怎么变——一个头盯一种关系,多个头各管一摊。

目标实验目标

把多头注意力的三个关键参数单独调出来:头数 H(能同时抓几种关系)、每头维度 d/H(每头的工作空间)、温度(softmax 的锐利度)。

怎么玩先把几个头切换着看:头 1 盯主语,头 2 盯宾语,头 3 盯指代……同一个词在不同头里算出完全不同的分布,这就是「多头各管一摊」。

参数控制

H 越大,能同时建模的关系种类越多。
每头维度 = d_model / H,会自动算出来。
T 低 → 权重更集中;T 高 → 目光更分散。

维度账头和维度的关系

关键8 个头 × 64 维 = 512 维,和单个 512 维的头总计算量持平。所谓「切」,切的是每个头的工作空间,不是输入——每个头都用完整的 d_model 维作输入。

热力图当前头的注意力分布

每一行 = 一个词(发出查询),每一列 = 它看向的词。颜色越深,权重越重;每行加起来约 100%。

对比各头在看什么

挑战实验课挑战

挑战 1 · 找分工的头
逐个切换头,找出「盯着前一个词」的那个头,和「盯着句首主语」的那个头。它们的图案差在哪?
挑战 2 · 维度的账
H 从 4 调到 8,每头维度从多少变成多少?总维度变了吗?
挑战 3 · 温度的作用
T 从 1.0 降到 0.4,热力图是不是变得更「非黑即白」?这类似真实模型的什么现象?
挑战 4 · 单头的局限
把 H 设为 1,这个头被迫同时兼顾主谓和动宾。热力图能看出「混成一团」吗?