工具介绍
NeMo Switchyard 是一个智能路由库,专为 AI 智能体工作负载设计。它根据任务难度、模型能力、成本和延迟自动路由请求到最合适的模型,支持多种路由策略如分类路由器、阶段路由器和升级路由器。
特色:开源免费,可显著降低 AI 工作流成本,英伟达内部测试显示成本可降至使用 Claude Opus 4.8 时的 1/3,合作伙伴实测成本降低高达 74%。
适用人群:AI 开发者、研究人员、企业技术团队,用于构建和优化 AI 智能体系统。
价格:完全免费,开源发布于 GitHub。