亚马逊在周三的秋季硬件发布会上展示了一款全新的Alexa语音助手，它由一个大型语言模型驱动，能够理解会话性短语并做出适当的回应，更有效地解析上下文并完成多个请求。这将极大提升家庭自动化的水平。亚马逊将逐步...

在谷歌的新数据集发布后，CulturaX紧随其后，推出了新的数据集。这是一个清洁整理过的多语言数据标记集，总量达到了6T。这一数据集的发布，将为多语言语言模型的进一步发展提供巨大的助力。谷歌和CulturaX的这两次数...

在网上创建引人注目的设计对于吸引用户的兴趣和帮助他们理解信息非常重要。这种新方法，被称为LayoutNUWA，通过使用语言模型将编码指令转化为出色的布局，使这些设计更加智能。LayoutNUWA的核心在于，它通过理解编程...

研究人员近日推出了一种名为DoLa的新方法，该方法能够帮助大型语言模型（例如与您进行聊天或撰写文章的模型）停止编造内容，而专注于事实。DoLa采用一种智能的方式比较模型内部的不同层次，以过滤出错误的信息。这是...

像GPT-3这样的大型语言模型之所以聪明，是因为它们从大量数据中学习。那么，当新的信息与它们已经知道的信息冲突时，它们会如何反应呢？研究人员发现，这些模型可能会感到困惑，并给出错误的答案，尤其是当它们面临...

通常情况下，语言模型的输入和输出嵌入层是捆绑在一起的。然而，如果您将输入嵌入与模型内部的其他嵌入捆绑在一起，并使用对比损失，您可以在实际运行时间和最终基准准确度上获得显著改善的性能。这种方法的关键在于...

IBM近日发布了一系列混合专家模型（Mixture-of-Experts，MoE），并公开了它们的架构和部分代码。MoE模型是一种稀疏模型，意味着在不牺牲准确性的情况下，可以节省计算资源。然而，训练这种模型却颇具挑战性。这次IBM...

对齐技术有助于使语言模型更有用且无害。虽然有时可能会损害性能，但总的来说，这是一项正面的技术。对齐是昂贵的，需要大量的对齐数据。然而，如果您允许模型在生成后评估自身的输出并进行回溯，它可以提高冻结模型...