注意力预算 · Attention budget

描述模型在有限上下文和计算条件下分配关注程度的经验性说法。

详细说明

“注意力预算”在本词典中是解释性比喻，不是所有模型都公开提供的固定指标，也不能按词元数量直接推算理解能力。它提醒我们：无关内容可能干扰重要信息的利用，精简并组织上下文往往比一味加长输入更有效。

把十万行无关日志放进对话，未必比提供关键错误片段更有效。