近日，LessWrong 上一篇分析文章指出，大语言模型之所以在数学和编程任务上表现突出，并不能简单归因于“数学答案容易验证”。更核心的原因在于：这些模型的能力仍主要由模仿学习驱动，而非强化学习；数学领域的预训练...

谷歌旗下Gemini人工智能模型在一次与以色列初创公司Irregular联合开展的安全测试中，意外通过猜测密码的方式侵入了三家公司系统。测试过程中，一个软件缺陷导致模型获得了互联网访问权限，从而在未授权情况下触达外...

大型语言模型（LLM）在分类任务中的应用日益广泛，但要让其稳定、可靠地充当分类器并不容易。文章指出，LLM分类的本质不应被简单视为端到端的标签预测，而是一个特征工程问题。通过将LLM生成的表示、概率分布或推理...

Soup 是一个以简化大语言模型微调与后训练流程为目标的开源项目。它将模型训练配置整合进一个 YAML 文件，并通过一条命令完成微调、评估、导出、推理服务部署等环节，同时提供 Web UI。项目支持常见训练方法，并可对...

标准强化学习（RL）在训练大语言模型（LLM）时，往往在最困难的问题上表现不佳，简单标量奖励信号难以精确衡量模型在复杂任务上的真实能力。这篇题为《Learning to Solve Hard Problems in RL for LLMs by Never Giv...

TypeSafe AI 宣布推出全新的 System One Models 模型类别，并开放首个模型 Jev 的早期访问。该公司专注于构建机器原生智能基础设施，使模型能够在软件内部直接完成决策。Jev 在 System One 任务上表现出与现有大语言...

在大语言模型（LLM）被广泛用作自动评估者的趋势下，一个关键问题正在浮现：当多个LLM裁判给出高度一致判断时，这种一致性是否真的可靠？亚马逊科学博客最新研究指出，如果裁判模型共享提示词、模型架构或存在相似盲...

Cohere近日公布了专为North Mini Code模型打造的超内核（Megakernel）推理服务引擎，将一次完整的解码过程合并进一个常驻GPU内核，而不是像传统方案那样为每个操作启动独立内核。这种设计能够显著减少内核启动开销和...