Aphrodite引擎可以用于减少VRAM需求，提高AI推理工作负载的吞吐量。Pygmalion推理引擎是一种全新的AI推理引擎，它可以在减少VRAM需求的同时提高吞吐量。该引擎基于Aphrodite引擎并进行了优化，可以在保持准确性的同...

Hugging Face推出了可定制的Hugging Chat助手。这允许使用开源LLM的选择自由创建AI聊天机器人，与OpenAI的订阅模式形成对比。

近日，一款名为GPTNewspaper的开源项目在GitHub上发布。该项目利用了自然语言处理技术，通过6个代理协同工作，实现了报纸的自动化生成。这6个代理分别是：检索代理、摘要代理、文章代理、编辑代理、格式代理和排版代...

BGE-M3项目介绍了一种多功能的嵌入模型，其在多功能性（密集、多向量和稀疏检索）、多语言性（支持100多种语言）和多粒度性（处理从短句子到长达8192个标记的文档输入）方面表现优异。它使用混合检索管道，结合不同...

OpenHermes-2.5数据集已被用于训练一些最好的开源模型。该数据集包含100多万个高质量数据点的示例。现在已经发布。

FireLlava是一个新的开源视觉模型，经过数据训练，可以用于商业任务。它与原始Llava的性能相当，但还没有达到Llava 1.5的水平。

最新研究表明，长视频理解领域存在多粒度噪声对应问题，影响了视频语言研究的准确性。为了解决这一问题，研究人员开发了一种名为Norton的新方法，应用了最优传输算法来提高长期视频理解。该方法通过处理多粒度噪声对...

MF-MOS是一种新模型，可以更好地使用LiDAR技术检测自动驾驶中的运动目标。该模型独特地分离运动和语义信息，使用残差图进行运动捕捉，使用距离图像进行语义引导。该模型的发布将进一步推动自动驾驶技术的发展。