OctoML推出按需计算服务，支持生产环境中的生成式AI模型

OctoML正在构建一个计算层，可以像OpenAI一样易于使用，但灵活性更高，可以在任何云上运行。该服务的目标是使开发最新的生成式AI模型的应用程序变得简单：选择您的模型，启动模型服务API，并在成本最优的计算资源上运行推理端点。欲了解更多信息或申请早期访问，请访问OctoML官网。 以下是该服务的三个核心特点： - 支持生成式AI模型的生产环境部署； - 灵活运行于任何云平台； - 提供按需计算服务，成本更低。