漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2026-10-20 talkingdev

Cloudflare推出Clairic提取模型:不生成token、自带置信度,或成LLM幻觉破解新思路

Cloudflare正式发布Clairic,这是一款被归类为System One的新型提取模型,专门面向非结构化输入进行数值提取、计算、估计与预测。与传统大语言模型不同,Clairic在推理过程中不生成任何token,因此不会出现因逐词生...

Read More
2026-10-15 talkingdev

LangChain 智能体评估高频问题解析:代码评估器、LLM裁判与离线/在线评估怎么选?

随着智能体(Agent)从实验走向生产,如何系统评估其行为质量成为AI工程团队关注的焦点。LangChain 官方博客最新发布的指南围绕智能体评估(Agent Evals)的高频问题给出建议:与传统的精确输出测试不同,智能体的输...

Read More
2026-10-12 talkingdev

前DeepMind科学家David Silver创立Ineffable:用强化学习打造“超级学习者”,挑战LLM路线

据《金融时报》采访,曾主导AlphaGo研发的DeepMind前科学家David Silver披露了新创业公司Ineffable的愿景:构建一种基于强化学习(RL)的“超级学习者”,作为大语言模型(LLM)之外的替代路径。Silver认为,当前LLM主...

Read More
2026-10-11 talkingdev

微软发布 Microsoft-Decision-1:基于 Qwen3.5-9B 的快速决策评分模型,未来将切换至 MAI、OpenAI 等底座

微软正式推出 Microsoft-Decision-1,这是一款快速决策评分模型,基于 Qwen3.5-9B 训练,并计划在未来将底层模型替换为 MAI、OpenAI 等。决策模型正在成为 AI 领域的重要新类别:与生成文本的大语言模型不同,决策模...

Read More
2026-09-28 talkingdev

单卡H100每分钟处理10亿token:Quail推理引擎比vLLM快10倍,成本低于0.06美元/十亿token

Modal官方博客介绍了Query-Aware Inference Layer(Quail)推理引擎,该引擎通过将查询规划器与推理引擎相结合,并采用KV最优左深连接优化AI-SQL查询性能,在单块H100 GPU上实现了每分钟超过10亿token的处理速度。与...

Read More
2026-09-23 talkingdev

vLLM 推出硬件无关模型层:在 H100 上实现 96.6% 原生效率

vLLM 作为高性能大语言模型推理引擎,正通过引入硬件无关层来进一步扩展其硬件兼容性。该设计使模型能够在多种硬件平台上高效运行,同时维持较高的推理性能。官方数据显示,这些硬件无关层在 NVIDIA H100 GPU 上最高...

Read More
2026-09-21 talkingdev

LessWrong:大模型数学和编程强,不是因为容易验证,而是预训练数据几乎全对

近日,LessWrong 上一篇分析文章指出,大语言模型之所以在数学和编程任务上表现突出,并不能简单归因于“数学答案容易验证”。更核心的原因在于:这些模型的能力仍主要由模仿学习驱动,而非强化学习;数学领域的预训练...

Read More
2026-09-18 talkingdev

为何说LLM分类只是特征工程问题?

大型语言模型(LLM)在分类任务中的应用日益广泛,但要让其稳定、可靠地充当分类器并不容易。文章指出,LLM分类的本质不应被简单视为端到端的标签预测,而是一个特征工程问题。通过将LLM生成的表示、概率分布或推理...

Read More
  1. 1
  2. 2
  3. 3
  4. Next Page