跳到正文
开源官方

AWS示例:用NVIDIA NeMo Switchyard路由编码智能体请求

Route coding agent requests to the right model on Amazon Bedrock with NVIDIA NeMo Switchyard

AWS发布CDK示例,在Amazon Bedrock上部署LiteLLM与NVIDIA NeMo Switchyard路由插件,支持Stage和Random两种策略,在Claude Opus 5.5与Nemotron 3 Super间按任务成本路由,并提供基准脚本测量每解决任务成本。示例为非生产用途,调用按量计费。

AAWS Machine Learning Blog阅读原文

相关阅读

开源·Hugging Face Blog
llama.cpp 与 ggml 发布 v1.0.0 库版本
开源·NVIDIA Blog
NVIDIA 将 OpenShell 贡献给 CNCF 并发布 DSX AI Factory 新组件
开源·DeepSeek (@deepseek_ai)
DeepSeek 开源自研推理框架 DeepInfer