近日，Meta在其机器学习推理服务的尾部利用率方面进行了优化，这些优化使得失败率减少了三分之二，计算效率提高了35%，并将p99延迟减半。这些增强功能确保Meta的广告投放系统可以在不需要额外资源的情况下处理增加的...

MARS是一种全新的文本到图像(T2I)生成框架，它引入了语义视觉-语言集成专家(SemVIE)的特征。这种新型框架的主要目标是改进现有的T2I生成技术，使其能更好地理解和处理复杂的视觉语言任务。借助SemVIE，MARS能够实现...

近日，一种名为OVFormer的新方法在开放词汇视频实例分割（VIS）领域引起了广泛关注。该方法解决了该领域的关键问题，改善了嵌入对齐，并利用基于视频的训练来提高时间一致性。OVFormer的核心优势在于它的开放性词汇...

FlashAttention是现代快速语言模型的基础，而最新的FlashAttention 3版本则是其重要的升级。与以前的版本相比，新版本使用了75%的H100容量（相比之前的35%有了显著的提升）。这次的能力提升归因于一系列重要的系统改...

现在，你可以通过在模型的首次运行中将一些懒加载移动到模型上，以极小的每秒令牌损失来显著提升模型初始化的速度。这种改进将大大提升模型运行效率，为用户带来更流畅的体验。

Anole是一款基于Meta的Chameleon模型构建的开放自回归多模态模型。近期，研究者们着重对该模型进行了微调，成功地将图像生成能力重新整合进了模型中。这一改进不仅提高了模型的功能性，也为未来的开发打开了新的可能...

Video Self-Training with augmented Reasoning (Video-STaR)是一种新的方法，用于改进大型视觉语言模型（LVLMs）。通过自我训练和增强推理，Video-STaR能够提高模型的学习能力和预测准确性。这种方法的主要优势在于...

微软近日发布了Minference，这是一款能够显著提升支持模型推理速度的系统。通过一系列系统性的改进，Minference能够在不损失准确性的前提下，大大提升模型的推理速度。这一创新举措显示了微软在人工智能领域的巨大投...