前沿热点
前沿热点

上下文窗口卷到百万级:长文本是真刚需还是军备竞赛

2024 年 Gemini 1.5 把上下文推到 100 万 token,到 2026 年中「百万级」已成头部模型标配,国产阵营卷向千万。拆解长上下文解决了什么、没解决什么(中间遗忘)、成本与大海捞针,给普通人三点选型建议。

发布于 2026年7月27日4 分钟阅读

一、百万 token 成标配

2024 年 Gemini 1.5 把上下文窗口推到 100 万 token 时,行业还当新闻看。到 2026 年中,"百万级"已是头部模型的标配:Gemini、GPT、Claude,以及国产 Qwen、GLM、Kimi 都把长上下文当卖点,国产阵营甚至开始卷"千万 token"量级的探索。军备竞赛肉眼可见地在加速。

二、长上下文解决了什么、没解决什么

解决了:一次性喂进整本书、整个代码库、几十份合同,不用再手动切片、检索、拼上下文——很多过去需要 RAG 的场景被直接覆盖。

没解决:"放得进"不等于"找得到、用得准"。长上下文里普遍存在"中间遗忘"(lost in the middle)现象——位于中间位置的信息更容易被模型忽略;token 越多,注意力越分散,关键细节照样会漏。

三、成本与"大海捞针"

长上下文不便宜。一次请求塞满 100 万 token,输入成本是短对话的几十到上百倍。而行业基准 NeedleInAHaystack(大海捞针测试)显示,多数模型在超长上下文下的召回率会随长度下滑;更新的 RULER 基准进一步证明,"标称长度"和"有效长度"常常差一大截。

"能放"和"能用"是两回事。

四、普通人怎么选

  1. 按需用长上下文:日常对话别开百万——又贵又未必稳;只在整库代码、长文档、批量合同这类真需要时上。
  2. RAG 没死:对超大规模、需要精确召回和可溯源的场景,检索增强(RAG)依然比塞满上下文更准、更省。
  3. 盯"有效上下文"而非"标称上下文":厂商吹的数字,看独立基准(NIAH、RULER)实测,别只信广告页。

一句话:上下文长度像内存——越大越好,但关键看"有效寻址"。卷数字是营销,卷召回率才是真本事。


参考来源

本文由 AI 辅助生成,经人工审核编辑。最后更新:2026-07-27

常见问题

上下文窗口越大越好吗?
不一定。「放得进」不等于「找得到、用得准」。长上下文存在「中间遗忘」(lost in the middle),token 越多注意力越分散,关键细节照样漏。看「有效上下文」而非「标称上下文」。
有了百万 token 还需要 RAG 吗?
需要。对超大规模、需要精确召回和可溯源的场景,RAG 比塞满上下文更准更省。长上下文适合整本书 / 整个代码库一次性喂入,RAG 适合精确检索。
长上下文贵吗?
贵。一次请求塞满 100 万 token,输入成本是短对话的几十到上百倍。日常对话别开百万,只在整库 / 长文档 / 批量合同这类真需要时上。

相关文章

前沿热点

Kimi 会写 Blender 脚本:3D 建模门槛正在塌

月之暗面随 K3.1 Pro 上线 3D Make:给一段文字、一张草图或参考图,模型推断形状、比例与空间关系,自主编写 Blender、FreeCAD、SolidWorks 等建模软件的可执行脚本并上传云端运行,产出可下载、可预览、可导出 GLB/OBJ/STL 等格式的模型,官方定位一句话生成可 3D 打印的模型。背后是 2.8 万亿参数、104B 激活的 K3.1 Pro 后训练账本,官方承诺 11 月 4 日前开放完整权重。

2026年11月3日8 分钟阅读
前沿热点

Apple 智能接入千问:国行 iPhone 11 月 4 日开放

2026-10-31 阿里巴巴与 Apple 宣布合作,将千问(Qwen)大模型集成进 Apple Intelligence。千问能力自 11 月 4 日起随最新 iOS 开发者 Beta 开放测试,12 月随 iOS 27.3 正式发布、面向中国用户推出;通过 Siri、写作工具、视觉智能调用,首批含实时翻译、照片消除等十几项功能,用户可自主选择是否启用,阿里声明不用于训练。

2026年11月2日8 分钟阅读
前沿热点

谷歌Genie 4:世界会说话了,却只能演两分钟?

谷歌 DeepMind 10 月 27 日以研究预览开放 Genie 4(trusted testers 起步,waitlist 已开在 Project Genie):Genie 线首个原生生成音频的世界模型——环境声、音乐与可实时应答的角色对话同步生成,官方称交互式人类语音是真正的边界。架构上 Gemini Omni 锚定外观与行为、Gemini 3.8 Flash 任导演拆步骤查帧,机器人实验里 Gemini 4 Argon 拆任务给 Apollo 人形机器人渲染跳棋对局;场景连贯最高 2 分钟为 TechCrunch/The Verge 报道口径(官方仅认细节漂移仍待解),两代对比以 Project Genie 原型约 60 秒单次限制为基准。跑分、分辨率、帧率、参数量与定价均未公布;全部输出带 SynthID 水印。竞品 Runway GWM Worlds 2 与行业整合潮(AMD 收购 World Labs、Amazon 洽购 Decart)并列文末。

2026年10月29日8 分钟阅读