漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2024-07-15 talkingdev

Meta如何优化广告推理服务以提高尾部利用率

近日,Meta在其机器学习推理服务的尾部利用率方面进行了优化,这些优化使得失败率减少了三分之二,计算效率提高了35%,并将p99延迟减半。这些增强功能确保Meta的广告投放系统可以在不需要额外资源的情况下处理增加的...

Read More
2024-01-12 talkingdev

GitHub Actions成为分时共享超级计算机

GitHub Actions可以用于批处理作业。开发人员可以将工作提交到服务中,稍后异步地接收结果。actions-batch是一个命令行工具,本质上是将GitHub Actions转换为分时计算机的API。它创建新的GitHub存储库,编写在提交时...

Read More