Cloudflare正式发布Clairic,这是一款被归类为System One的新型提取模型,专门面向非结构化输入进行数值提取、计算、估计与预测。与传统大语言模型不同,Clairic在推理过程中不生成任何token,因此不会出现因逐词生...
Read More随着智能体(Agent)从实验走向生产,如何系统评估其行为质量成为AI工程团队关注的焦点。LangChain 官方博客最新发布的指南围绕智能体评估(Agent Evals)的高频问题给出建议:与传统的精确输出测试不同,智能体的输...
Read More据《金融时报》采访,曾主导AlphaGo研发的DeepMind前科学家David Silver披露了新创业公司Ineffable的愿景:构建一种基于强化学习(RL)的“超级学习者”,作为大语言模型(LLM)之外的替代路径。Silver认为,当前LLM主...
Read More微软正式推出 Microsoft-Decision-1,这是一款快速决策评分模型,基于 Qwen3.5-9B 训练,并计划在未来将底层模型替换为 MAI、OpenAI 等。决策模型正在成为 AI 领域的重要新类别:与生成文本的大语言模型不同,决策模...
Read MoreModal官方博客介绍了Query-Aware Inference Layer(Quail)推理引擎,该引擎通过将查询规划器与推理引擎相结合,并采用KV最优左深连接优化AI-SQL查询性能,在单块H100 GPU上实现了每分钟超过10亿token的处理速度。与...
Read MorevLLM 作为高性能大语言模型推理引擎,正通过引入硬件无关层来进一步扩展其硬件兼容性。该设计使模型能够在多种硬件平台上高效运行,同时维持较高的推理性能。官方数据显示,这些硬件无关层在 NVIDIA H100 GPU 上最高...
Read More近日,LessWrong 上一篇分析文章指出,大语言模型之所以在数学和编程任务上表现突出,并不能简单归因于“数学答案容易验证”。更核心的原因在于:这些模型的能力仍主要由模仿学习驱动,而非强化学习;数学领域的预训练...
Read More大型语言模型(LLM)在分类任务中的应用日益广泛,但要让其稳定、可靠地充当分类器并不容易。文章指出,LLM分类的本质不应被简单视为端到端的标签预测,而是一个特征工程问题。通过将LLM生成的表示、概率分布或推理...
Read More