Fireworks 发布 Forge 新产品：AI 推理最高 1500 tokens/秒，强化企业控制
talkingdev • 2026-11-04
3232 views
Fireworks AI 在 Forge 大会上发布多项面向企业构建专业化智能的新产品。在推理性能方面，其超高速推理服务最高可达每秒 1500 tokens，有望显著压缩生成延迟并提升实时交互体验；同时推出低成本后台处理方案，让非实时任务在效率和成本之间取得更好平衡。Nexus 让企业可以在现有工具内调用多个 AI 模型，降低模型切换和接入门槛。此外，Fireworks 还新增模型评估、微调部署以及企业控制基础设施等能力，使团队能够围绕自身数据、业务知识和任务流程构建更可控的 AI 系统。整体来看，这些更新聚焦更快推理、更多模型选择、更强评估与部署能力，对关注模型落地效率和治理的企业开发者具有较强吸引力。
核心要点
- 超高速推理最高可达每秒 1500 tokens，显著降低响应延迟
- Nexus 支持在现有工具中接入多个 AI 模型，提升模型选择灵活性
- 新增模型评估、微调部署与企业级基础设施控制能力