上下文窗口 · Context window
模型一次处理可容纳的上下文范围，通常以词元数量衡量。
详细说明
指令、输入资料、会话历史、工具返回结果和生成内容都会涉及上下文预算；输入与输出如何共享总容量、各自上限是多少，取决于具体模型。上下文窗口装得下资料，不代表模型能够同样可靠地利用其中每条信息。
使用示例
超长日志挤占窗口后，早先的重要约束可能需要被摘要或重新提供。
模型一次处理可容纳的上下文范围，通常以词元数量衡量。
指令、输入资料、会话历史、工具返回结果和生成内容都会涉及上下文预算；输入与输出如何共享总容量、各自上限是多少，取决于具体模型。上下文窗口装得下资料，不代表模型能够同样可靠地利用其中每条信息。
超长日志挤占窗口后，早先的重要约束可能需要被摘要或重新提供。