llama.cpp 与 ggml 发布 v1.0.0 库版本
llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem
llama.cpp 与 ggml 发布 v1.0.0 库版本,项目方称这是对下游开发者的责任体现。今后两个项目遇到 API 与 ABI 不兼容时都会提升主版本号,公共 C API 的破坏性变更对应 MAJOR 升级。llama.cpp 目前支持超过 150 种模型架构变体及主流投机解码方法,并已通过 Docker、Homebrew、conda-forge、MacPorts、Winget、XCFramework 等渠道分发。
要点
- 此后公共 C API 破坏性变更将以 MAJOR 版本号体现
- llama.cpp 已支持超 150 种模型架构变体
对你有什么影响
HHugging Face Blog阅读原文依赖 llama.cpp 接口的下游项目可据此判断升级节奏,主版本号将直接对应 API 与 ABI 不兼容变更。