据Elon Musk在X上透露，xAI的语言模型Grok将在未来几天内开源。 Grok是xAI的一项重要技术，它基于深度学习技术，能够快速地处理自然语言，并在文本中找到有意义的信息。Grok已经在xAI内部使用了很长时间，现在将会对...

评估语言模型通常采用手动策划的基准测试。其中一些基准测试非常大，有些超过14k个示例，这导致评估成本和噪声很高。这项工作表明，您可以可靠地评估流行基准测试中的语言模型性能，只需使用100个示例即可。

本文讨论如何为大型语言模型构建结构化文档，以及在整个过程中需要考虑的最佳实践。首先，为LLM编写文档时应当注意文档的结构及可读性。其次，可以通过提供示例代码、使用清晰的术语和概念以及清晰的语言来使文档更...

一家名为LLMify的初创公司正在推出一种新的方法来训练语言模型，他们将在没有预训练模型的情况下从零开始培训LLMs。该公司的创始人表示，这种方法可以提高模型的准确性和适用性，并加快训练时间。该公司已经引起了一...

PitchLeague是一款基于人工智能的个人演讲辅导产品。它可以帮助用户提高演讲的技巧和效果，让你的演讲更加有说服力。PitchLeague采用自然语言处理技术，能够分析你的演讲内容，提供实时反馈和建议。它还可以模拟听众...

近日，研究人员开发了一种名为Resonance RoPE的新技术，帮助LLMs更好地理解和生成比其原始训练序列更长的文本。这种方法在现有的Rotary Position Embedding（RoPE）系统上进行了改进，提高了模型在长文本上的性能，...

Anthropic最近发布了Claude 3家族的三个新模型，其中最强的模型匹敌了GPT4的报告基准结果。此外，这是一个多模态模型，对视觉任务表现良好。值得注意的是，Claude的编码能力在此版本中得到了显著提高。

Unsloth 项目旨在重写训练和推理语言模型的重要内核。它发布了一个示例，其中包括 Google 开源的 Gemma 模型的代码。通过使用 Unsolth，Gemma 的训练速度可以提高 2.4 倍。这个项目的目标是通过修改模型的内核，实现...