QoQ，一种新型量化算法，通过使用4位权重、8位激活和4位KV缓存，加速了大型语言模型推理。量化是一种广泛应用于深度学习中的技术，它能够减少模型的存储需求和计算复杂性。在这种情况下，QoQ算法采用了较低精度的数...

Cohere的Command R和R+是针对长文本任务优化的最新LLM（Large Language Models）。这两款模型在关键的商业重要能力方面表现优异。它们都是目前市场上的技术先行者，并且已经在亚马逊Bedrock平台上进行发布。这无疑是...

自动化提示优化的人工智能模型预示着一个未来，手动提示工程可能会变得过时，指向了生成有效提示的更有效，模型驱动的方法。在这个新的模型驱动的世界里，我们可以期待更快速的提示生成，以及更精确的结果。此外，这...

企业级AI平台Lamini使企业内的软件团队能够开发出新的LLM能力，减少对专有数据的幻觉，安全地从云VPCs到现场运行他们的LLM，并通过模型评估来扩大他们的基础设施，这些模型评估优先考虑ROI和业务成果而非炒作。Lamin...

近日，GitHub Repo发布了一款名为InstructDr的模型，该模型的设计目标是在各种视觉文档理解任务中表现优异，如问题回答和信息提取等。InstructDr能结合文档图片和大型语言模型，适应新的任务和数据集，其性能超过了...

全频动态卷积（FFDConv）是一种新型的增强2D卷积用于声音事件检测的方法。通过为每个频段生成独特的频率内核，FFDConv能够提高检测声音事件的准确性，特别是在频率特性方面。声音事件检测是一个复杂的任务，因为它涉...

科研人员已经开发出一种名为微梦想家（MicroDreamer）的创新3D生成算法。这种算法通过降低所需函数评估的数量，显著加快了3D生成的过程。微梦想家算法采用先进的计算策略和优化技术，大大提升了3D建模和渲染的效率和...

Lightplane Renderer和Splatter组件是一种全新的方法，它极大地降低了2D-3D映射中的内存使用。Lightplane Renderer技巧性地从神经3D字段生成图像，而Lightplane Splatter则高效地将这些图像投射到3D Hash结构中。通...