开源项目
开源项目

llama.cpp 与 ggml 同发 1.0.0:废弃 API 一次清掉

只读 ggml-org 下 llama.cpp 与 ggml 两仓的 GitHub API 字段、两份 v1.0.0 release notes、Discussion #1579、LICENSE 与 README 能核到的内容。两仓 v1.0.0 同在 2026-11-13 发布,本篇拆清语义化版本、内嵌 ggml 副本与已发布副本一致才打 release tag、b 编号 nightly 与 vX.Y.Z 正式版的分工,以及 35 个废弃函数、RPC v9 与 MIT 保留版权声明、按 AS IS 提供的边界。2026 年 8 月的版本策略讨论不写成 11 月新公告,未取回的 HF 博客数字不引。

发布于 2026年11月15日9 分钟阅读
<!-- llama-cpp-ggml-1-0-0-opensource-resource | open-source | llama.cpp 与 ggml 同发 1.0.0:废弃 API 一次清掉 -->

一个长期用 b 加提交号当 nightly 版本标记的项目,忽然在同一天给自身和底层张量库各挂上 1.0.0,并把攒了很久的废弃 API 一次清掉,这个落差比版本号本身更值得拆开看。截至 2026 年 11 月 14 日,ggml-org 下的 ggml 与 llama.cpp 两个仓库都把 v1.0.0 放在 tags 首位,两份 v1.0.0 release notes 的发布时间都落在 2026-11-13。本篇只取仓库字段、两份 release notes、版本策略讨论 Discussion #1579 原文、LICENSE 与 README 能核到的内容,不替项目补跑分、补用户数、补博客结论。仓库坐标是 ggml-org/llama.cpp,版本规则的原始出处见 https://github.com/ggml-org/ggml/discussions/1579。

版本身份:两个时间戳与一份 MIT 原文

先厘清这是一次正式 release,而不是又一轮 nightly。GitHub API 返回的 published_at 是两段精确到秒的 UTC 时间:ggml 的 v1.0.0 发布于 2026-11-13T08:34:21Z,llama.cpp 的 v1.0.0 发布于 2026-11-13T10:20:19Z,两段时间戳都落在 2026 年 11 月 13 日,ggml 在前,llama.cpp 在后。两仓 tags 列表的首位都是 v1.0.0,release 的 html_url 也明确指向各自的 /releases/tag/v1.0.0。换句话说,1.0.0 是能在 release 页面核到的正式版本标记,不是持续集成里每天滚动的编号;这一版对外给出的语义,和 b 加提交号那种滚动标记并不相同。

两仓的许可证都可由 /license 端点直接核到:spdx_id 为 MIT,版权行逐字是 Copyright (c) 2023-2026 The ggml authors。授权原句写明,任何人取得副本后可免费使用、复制、修改、合并、发布、分发、再许可乃至销售副本;但它同时写明一条必须履行的条件,即上述版权声明与许可声明须包含在软件的所有副本或实质部分中,并逐字声明软件按 AS IS 现状提供、不带任何形式的担保。因此更准确的说法是,MIT 授予了很宽的使用与再分发自由,同时附带一条明确的保留声明义务与一条免责声明,并非一点条件都不附带。把这句话说清楚,后面讨论升级影响时才不会越过 LICENSE 原文。

把这两段时间戳与 tags 首位放在一起看,能确定的是发布动作发生在同一天,且两份 release notes 都以 v1.0.0 自称;至于版本号为何落在 1.0.0 而不是别的数字,属于版本策略要回答的问题,仓库字段本身并不解释动机。将可核的字段与需要解释的部分分开,是本篇处理这一题材的基本办法:前者逐字照录,后者回到讨论原文找依据,两者不混为一谈。

为什么需要双仓同日

把两个仓库绑在同一天发版,不是发布时间表上的巧合,而是版本策略里写死的一个前置条件。Discussion #1579 的原句是:release tag 的创建条件是内部 ggml 副本与已发布的 ggml 副本完全一致,这样从 release tag 构建、并链接到系统级 ggml 的下游才仍然兼容。llama.cpp 仓库里内嵌了一份 ggml 副本用于日常构建,如果只在某一个仓库打上正式版标记,而另一份副本与之不一致,下游把库与系统级 ggml 拼在一起时就可能对不上符号。于是 ggml 先把自己的 v1.0.0 发出去,llama.cpp 随后同步内嵌副本并发出同版号的 v1.0.0,两段 UTC 时间戳的先后正是这个依赖关系的写照。

同一份讨论还把两套版本号的分工写得很清楚:日常 nightly 用 b 加提交号作 Git tag,正式 release 才用语义化版本的 vX.Y.Z。也就是说,b[NUM] 与 vX.Y.Z 不是同一套编号的新旧写法,而是并行服务于滚动构建与对外发布的两套约定,1.0.0 属于后者。可以把这层关系简写成两行:

text
nightly : b[NUM]
release : vX.Y.Z

讨论里另有一个专门用来隔离风险的头文件名叫 llama-ext.h,它的用途是在不触动库正式 API、也不触发次版本与主版本升级的前提下试验 API 变更。一个改动先在试验层待着,等稳定后再决定要不要晋升进正式公开头,这正是后面那批 API 动作能够集中发生在主版本升级里的前提:该清的旧接口在试验层与正式层之间已经分好了类。

这也解释了为什么不能把 nightly 的编号直接当成正式版号来读。b 加提交号面向的是每天从 master 滚出来的构建,vX.Y.Z 面向的是对外承诺兼容性的发布,两者的消费者并不相同:前者是跟进最新提交的开发者,后者是依赖稳定接口的下游打包与集成。llama-ext.h 恰好卡在两者之间,让尚未定型的接口先有落脚处,而不必每次试验都动到正式版号。

语义化版本规则来自哪里

有一处时点必须说准,否则整篇的性质会被读错。项目采用语义化版本、并把 ABI 破坏性变更作为主版本升级的触发条件,这套说法出自 2026 年 8 月 7 日由 ggerganov 在 ggml 仓库发起的 Discussion #1579,正文带 TODO 与社区商议,属于草案性质的策略讨论,不是 2026 年 11 月 13 日随两份 release notes 一起新发的公告。release notes 的 More info 段落也只是把这个讨论链接列为延伸信息。因此能写的是项目已在实践语义化版本与 ABI 破坏触发主版本升级,不能写成这次 1.0.0 才宣布今后改用主版本号去标记 API 与 ABI 不兼容;把八月的一段讨论说成十一月的公告,是这一题材里最容易出现的错角。

讨论里的判定口径可以逐条核:正式发布采用语义化版本 vX.Y.Z;ABI 的破坏性变更才触发主版本升级,新增函数调用通常仍算向后兼容,但新增枚举值会被当作破坏性变更;对 server API 而言,只有推理端点如 completions 与 embeddings 的破坏性变更算主版本升级,router API、工具、CORS 代理这类变更归为 patch。把这套口径与两份 release notes 放在一起看,1.0.0 之所以是 1.0.0 而不是在 0.x 上再加一位,正因为这一版集中做了删除而非只做新增。ABI 这个词在这里不是泛泛而谈:它指向调用方按头文件编译、按符号链接时依赖的二进制约定,一旦公开函数被移除或改名,旧程序就无法在新库上原样跑起来。

把这条时线记清楚还有一层用处:讨论里给出的判定口径是就版本策略本身而言的,读两份 release notes 时可以用来解释为什么这一版算 major,却不能反过来把 release notes 当成策略的发布载体。More info 的作用是给出背景链接,不是替讨论盖上一个新日期;凡涉及「何时确立」的问题,都应以讨论自身的发起时间为准。

主版本升级到底清掉了什么

llama.cpp 的 API changes 段落给得很直白:llama.h 里移除了 llama_set_warmup、35 个废弃函数、defrag_thold 以及对应的 --defrag-thold 开关;同一批改动把 NextN API 从 llama-ext.h 晋升进 llama.h,并把 llama_set_embd_state_src 改名为 llama_set_ctx_state_src。ggml 侧的 API changes 同样写明剪除废弃公开 API、移除旧的 DIAG_MASK_INF 与 DIAG_MASK_ZERO 算子,并把 RPC 协议提升以拒绝不兼容对端;另一条把协议号明确写成 RPC v9,带来更快的加载,以及对不可达端点或握手失败的优雅降级。删除、改名、晋升与协议号抬升叠在一起,就是「废弃 API 一次清掉」的具体内容,也解释了它为什么必须是一次 ABI 分水岭:调用方若还按旧头文件或旧 RPC 对端编译链接,就不会再被默默兼容。

这里要特别说明推测解码的位置变化。NextN 与推测解码 API 此前放在试验头 llama-ext.h,这次被提升到正式公开头 llama.h,意味着它从可变动的实验接口变成需要按版本号承诺的接口。FP8 相关能力也与主版本绑定:llama.cpp 加入 OCP FP8 KV 缓存,ggml 侧加入可配置 YaRN 截断与 FP8 支持,并列出可配置 CPU 份额的主机内存 MoE 专家缓存、外部 PLE 分片加载。两份 release notes 还列了三种新文本架构 Kimi-K3.1-Pro、Ripple 与 xing4_0,drama-3 TTS,以及 MageVL-Cowork 与 Kimi-K3.1 视觉模型;ggml 的 Overview 用 prunes 来形容对废弃公开 API 与旧 DIAG_MASK 算子的清理,措辞与 llama.cpp 的 removes 相呼应。

server 一侧的变化同样不是润色。llama-server 针对 SSRF、CORS、DNS rebinding 与客户端断开时取消 MCP 工具调用做了加固,新增 /v1/audio/speech 端点,并提供 --allow-unauthenticated-tools 与 --media-allow-private-urls 这类显式开关,把 HF_TOKEN 限制在 huggingface.co 主机。这些开关的取向是默认拒绝、需要时显式 opt-in:涉及私有地址或未认证工具的门默认关着,要打开得由部署者自己写明。ggml 的后端优化则是另一条线,包括 CUDA 与 Metal 上的少行量化矩阵乘与 MoE 融合、Vulkan 的 prefill FlashAttention 路径、SYCL 的设备侧 MoE 调度、OpenCL 里分解的 Adreno FlashAttention、新的 WebGPU kernel、Hexagon 算子覆盖扩展,以及避免上传未使用输入的调度改进。把这些条目连起来读,主版本升级承担的是清理旧契约、同时把一批新能力收进同一版号的工作,而不是单纯换个好看的数字。

十七个后端与持续修补的兼容面

README 的 Supported backends 表逐字列出 17 个后端:BLAS、BLIS、CANN、CUDA、HIP、Hexagon、IBM zDNN、MUSA、Metal、OpenCL、OpenVINO、RPC、SYCL、VirtGPU、Vulkan、WebGPU 与 ZenDNN,其中 OpenVINO 明标 In Progress。描述里另列 AVX、AVX2、AVX512、AMX、RVV 与 RISC-V、ARM NEON,以及 1.5 到 8 bit 量化与 CPU 加 GPU 混合推理。这张表说明版本升级要照顾的不是单一设备,而是一张跨厂商的硬件矩阵;CANN 对应华为昇腾 NPU、Hexagon 对应骁龙、IBM zDNN 对应 IBM Z 与 LinuxONE、Metal 对应 Apple Silicon,每一格背后都是不同的编译与运行时路径。

release notes 里大量 fix 与 workaround 条目也印证这一点:例如 Vulkan 隐藏内部符号以避免重复 dlopen 时的状态析构、AMD 专有驱动在 26.10.1 之后重新开启 coopmat、Qualcomm 大 head 的 FlashAttention 有 8 行上限这类针对具体驱动与具体算子的修补。一个后端一个坑,主版本升级能在同一天同时落地,靠的是把兼容面收拢到可验证的边界里,而不是宣称所有后端都已无差别就绪。可核的限制也写在明处:OpenVINO 后端仍标注 In Progress,GitHub API 返回的 open_issues_count 为 2597,这是待处理议题的数量,不等于故障率,也不该被读成稳定性结论。本篇不替项目补基准、补用户数、补博客结论,更不引用本环境未取回的 HF 博客 llama-cpp-v1 里的任何数字或结论;能写的是仓库字段、release notes、讨论、LICENSE 与 README 里逐字可查的部分。核验方式也很朴素:每个数字都能回到一个具体的官方字段或原句,凡回到不去的,就不写。

与部署、显存专文的错角

站内已经有多篇谈本地推理落地路径的文章,例如 本地 LLM 部署横评 讨论部署选型、Ollama 本地部署 SOP 讲部署步骤、显存部署 SOP 算显存账。本篇的错角很明确:不谈怎么把模型装起来、也不谈显存够不够,只谈 v1.0.0 这个版本号背后的语义、ABI 清理与双仓同步机制。同一套 llama.cpp 与 ggml,在那些文章里是待部署的引擎,在这里是被核对的发布对象,两者不互相替代;若读者要的是把服务跑起来的操作路径,见站内专文更直接。

常见问题

Q1:llama.cpp 和 ggml 的 1.0.0 是同一天发布的吗? A1:是,都在 2026 年 11 月 13 日。GitHub API 的 published_at 分别是 ggml 的 2026-11-13T08:34:21Z 与 llama.cpp 的 2026-11-13T10:20:19Z,两仓 tags 首位都是 v1.0.0,属于正式 release 而非 nightly。

Q2:1.0.0 到底算换个数字,还是真有破坏性改动? A2:release notes 写明移除 35 个废弃函数、删掉 DIAG_MASK 算子、把 RPC 协议升到 RPC v9 以拒绝不兼容对端,还把 llama_set_embd_state_src 改名。这些是 ABI 层面的删除与不兼容,调用方按旧头文件或旧对端编译时不会再被默默兼容。

Q3:语义化版本与 ABI 破坏触发主版本升级,是 11-13 才宣布的吗? A3:不是。这套规则出自 2026 年 8 月 7 日发起的 Discussion #1579,带 TODO 与社区商议的草案性质,11-13 的 release notes 只是把该讨论作为 More info 延伸链接列出,并非当日新公告。

Q4:为什么两个仓必须同日发? A4:Discussion #1579 写明,只有 llama.cpp 内嵌的 ggml 副本与已发布 ggml 完全一致才创建 release tag,以保证下游链接系统级 ggml 仍兼容。nightly 用 b 加提交号、正式版用 vX.Y.Z,两套编号分工不同,llama-ext.h 则是不触发版本升级的试验层。

Q5:MIT 是不是意味着使用时没有任何附带条件? A5:不是。LICENSE 原文在授予使用、复制、修改、分发、销售等权利的同时,要求所有副本或实质部分保留版权与许可声明,并声明软件按 AS IS 现状提供、不带担保。宽授权与免责并不等于零条件,把它说成不受任何约束就与原文不符了。

延伸阅读

若关心推理框架与 MoE 在本地的落地,可另见 分层推理 SOP 与 MoE 本地推理开源资源。这两篇谈的是推理侧,与本篇的版本语义互为背景,见站内专文即可,不必混作一篇。

本文由 AI 辅助生成,经人工审核编辑。最后更新:2026-11-15

常见问题

llama.cpp 和 ggml 的 1.0.0 是同一天发布的吗?
是,都在 2026 年 11 月 13 日。GitHub API 的 published_at 分别是 ggml 的 2026-11-13T08:34:21Z 与 llama.cpp 的 2026-11-13T10:20:19Z,两仓 tags 首位都是 v1.0.0,属于正式 release 而非 nightly。
1.0.0 到底算换个数字,还是真有破坏性改动?
release notes 写明移除 35 个废弃函数、删掉 DIAG_MASK 算子、把 RPC 协议升到 RPC v9 以拒绝不兼容对端,还把 llama_set_embd_state_src 改名。这些是 ABI 层面的删除与不兼容,调用方按旧头文件或旧对端编译时不会再被默默兼容。
语义化版本与 ABI 破坏触发主版本升级,是 11-13 才宣布的吗?
不是。这套规则出自 2026 年 8 月 7 日发起的 Discussion #1579,带 TODO 与社区商议的草案性质,11-13 的 release notes 只是把该讨论作为 More info 延伸链接列出,并非当日新公告。
为什么两个仓必须同日发?
Discussion #1579 写明,只有 llama.cpp 内嵌的 ggml 副本与已发布 ggml 完全一致才创建 release tag,以保证下游链接系统级 ggml 仍兼容。nightly 用 b 加提交号、正式版用 vX.Y.Z,两套编号分工不同,llama-ext.h 则是不触发版本升级的试验层。
MIT 是不是意味着使用时没有任何附带条件?
不是。LICENSE 原文在授予使用、复制、修改、分发、销售等权利的同时,要求所有副本或实质部分保留版权与许可声明,并声明软件按 AS IS 现状提供、不带担保。宽授权与免责并不等于零条件,把它说成不受任何约束就与原文不符了。

相关文章