随着开放模型在许多企业任务中变得有用，人们开始探索部署优化。然而，这个领域很复杂且分散。本文深入探讨了许多用于加速语言模型服务的标准技术。

Anthropic最近发布的Claude拥有200k个词汇的上下文。它似乎遭受了语言模型在外部评估中的“迷失在中间”的问题，这意味着它只有27％的标准问题的检索性能。但是，如果在提示中添加句子“助手：这是上下文中最相关的句子...

本文使用自然语言描述两个图像集合之间的不同之处。这是一个新颖且具有挑战性的问题。解决方案涉及给每个图像加上标题和重新排序，然后使用语言模型对它们进行总结。

在需要专业知识的领域中使用语言模型时，可以进行微调或使用某些检索技术。但两者都有缺点。这种新颖的方法使用自动生成的合成数据来更好地学习测试时的信息。它在标准适应基准测试中显示出比微调和RAG更好的表现。

指令调优的引入大大提高了语言模型的实用性。近来，出现了许多新的进展，例如合成数据管道，使这一过程变得更好、更高效。

在将语言模型嵌入到您的代码库中时，一个有用的心理模型是将它们视为具有标准输入和输出的函数。这篇博客是由React Native的创始人撰写的，展示了几种您可以这样建模模型以及这种方式的好处。

Nous Research发布了Hermes 2.5视觉模型，该模型基于最佳的7B语言模型和SigLIP集成，是一种强大的新型开源文本和视觉模型，可在消费级硬件上运行。这里的一个很酷的创新是集成函数调用。由于存在幻觉问题，该模型仍...

近日，美国政府与英特尔公司合作启动了一个名为ScienceGPT的训练计划。该计划旨在训练一个万亿参数的GPT模型，以便提高自然语言处理的效率和精度。GPT（Generative Pre-trained Transformer）是一种基于Transformer...