上下文长度(Context Window / 上下文窗口)名词解释 1. 定义上下文长度:大模型单次对话能一次性读取、记忆的最大 Token 总容量,包含用户历史提问 + AI 历史回答 + 当前新问题。也叫上下文窗口。 2. 通俗解释AI 的短期记事本容量,本子有限页数,装不下的历史对话会被截断、遗忘。 3. 关键作用决定能记住多少轮聊天、多长文档; 超长文档总结、RAG 知识库读取依赖大上下文; 超出上限:早期内容被丢弃,AI 丢失前文信息。 4. 举例4K 上下文:约 3000 汉字左右; 128K 上下文:可一次性读完整本书。 5. 关联和 Token 直接挂钩:上下文上限 = 最大可使用 Token 额度。 |