跳到正文
开源官方

llama.cpp 与 ggml 发布 v1.0.0 库版本

llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem

llama.cpp 与 ggml 发布 v1.0.0 库版本,项目方称这是对下游开发者的责任体现。今后两个项目遇到 API 与 ABI 不兼容时都会提升主版本号,公共 C API 的破坏性变更对应 MAJOR 升级。llama.cpp 目前支持超过 150 种模型架构变体及主流投机解码方法,并已通过 Docker、Homebrew、conda-forge、MacPorts、Winget、XCFramework 等渠道分发。

要点

  1. 此后公共 C API 破坏性变更将以 MAJOR 版本号体现
  2. llama.cpp 已支持超 150 种模型架构变体
对你有什么影响

依赖 llama.cpp 接口的下游项目可据此判断升级节奏,主版本号将直接对应 API 与 ABI 不兼容变更。

HHugging Face Blog阅读原文

相关阅读

开源·NVIDIA Blog
NVIDIA 将 OpenShell 贡献给 CNCF 并发布 DSX AI Factory 新组件
开源·DeepSeek (@deepseek_ai)
DeepSeek 开源自研推理框架 DeepInfer
模型发布·IT之家
华为云发布并开源昇腾原生具身世界模型CloudRobo-WM1.2