跳到正文
产品与应用官方

Hugging Face 介绍决策模型及 Transformers 的 DecisionPipeline 支持

Decision Models in Hugging Face

Hugging Face 发文介绍决策模型,并说明 Transformers 已支持 DecisionPipeline、AutoModelForDecision 和 DecisionConfig,模型接收 state 与 questions,直接返回 choice、score、noul 三类带概率的结构化决策,不生成文本。llama.cpp 也支持同一 /v1/systemone 接口,Hub 新增专用标签用于发现这类模型。作者称 TRL 的一等训练支持仍在 PR 阶段,Unsloth 已给出用 LoRA 加决策打分头把生成式 LLM 改造成决策模型的方案。

要点

  1. Hugging Face 在 Transformers 中加入 DecisionPipeline 与 AutoModelForDecision
  2. 决策模型接口为 state 加 questions,返回 choice、score、noul 三类概率结果
  3. llama.cpp 与 Transformers 均提供 /v1/systemone 接口,可服务同一决策模型
对你有什么影响

对只需在预设选项间做路由或打分的应用,这套接口省去生成 JSON 的步骤,还能直接拿到概率分布用于后续判断。

HHugging Face Blog阅读原文

相关阅读

产品与应用·AWS Machine Learning Blog
AWS 发布下一代 AgentCore runtime,会话启动快至 15 倍
产品与应用·GitHub (@github)
Gemini 4 Hydrogen 在 GitHub Copilot 正式可用
产品与应用·OpenAI News
OpenAI 推出 ChatGPT Wallet,支持智能体在用户批准下完成购买