缓存命中词元 · Cache tokens
本次请求中命中提示词缓存、可复用先前输入计算结果的词元（Token）。
详细说明
这里指缓存读取命中的输入词元数量，不是模型的长期记忆，也不是缓存中存放的所有词元。服务商可能用 cached_tokens 或 cache_read_input_tokens 等字段统计；创建或写入缓存的词元可能另行统计。前缀缓存是复用机制，缓存命中词元是该机制在一次请求中的命中量。“缓存命中词元”是本词典为说明含义采用的中文名称，并非唯一标准译名。
使用示例
一次请求有 2,000 个输入词元，其中 1,500 个命中缓存，则本次缓存命中词元数为 1,500；其余 500 个仍需要处理。