注意力退化 · Attention degradation

上下文变长或干扰增多时，模型利用相关信息的可靠性可能下降。

详细说明

这里用“注意力退化”概括上下文增长或干扰增加时，模型利用信息的能力可能下降的现象。它不是一个适用于所有模型的单一机制或固定阈值；信息位置、任务类型、模型结构和提示组织都会影响结果。应通过实际任务评估，而不是仅按会话长度判断。

长会话后助手忘记格式约定，重新提供精简约束可帮助纠正。