注:

(1)NMT模型只展示翻译结果。
(2)鼠标移动至 “翻译结果” 中的词汇展示其自注意力机制。
(3)注意力相关词汇用紫色标出,颜色越深相关度越高。

(4)候选词在最终被选词中的概率贡献越大颜色越深。
(5)最近邻中与所选词匹配的词汇用绿色标出。
(6)最近邻中的所选词匹配词汇用紫色进行了自注意力可视化。

自注意力可视化

输入的原句

源语言-目标语言

翻译结果(自注意力机制)

目标语言-目标语言

翻译结果

目标语言(翻译结果)



工作原理展示

前n位候选词

预训练模型/k近邻检索的候选词与概率

kNN检索所选样本

k个最近邻的数据展示