漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2026-09-07 talkingdev

开源|Random Attention:随机采样KV缓存淘汰,让大模型推理更高效

Salesforce AI Research 发布了 Random Attention 代码仓库,对应论文《Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning》。在大语言模型推理中,KV缓存占用大量显存,现有方法通常依赖学...

Read More
2026-09-07 talkingdev

开源|LLM-as-a-Verifier:无需额外训练,为任意智能体提供细粒度反馈并实现多领域SOTA

LLM-as-a-Verifier 是一个通用验证框架,其核心思路是让大语言模型直接充当“验证器”,在不引入额外训练的情况下,为任意智能体(agent)提供细粒度、可操作的反馈。该框架在编码、机器人和医学智能体等基准测试中均...

Read More
2026-09-04 talkingdev

开源|WebLLM:基于WebGPU在浏览器中高性能运行开源大模型

WebLLM 是 MLC AI 推出的高性能浏览器端大语言模型推理引擎,它借助 WebGPU 将开源模型的加载与推理全过程放在用户浏览器内完成,不需要后端服务器。该项目提供兼容 OpenAI 的 API,可支持流式输出、JSON 模式等聊天...

Read More
2026-09-04 talkingdev

MATS研究员发现:安全研究提示词可转为跨模型通用越狱模板,9款大模型攻击成功率高达100%

MATS研究员在一项安全研究中发现,一段原本用于生成合成文本记录的安全研究提示词,可被改造成跨模型通用越狱模板。该模板在23个受测模型中的9个最脆弱模型上实现了84%至100%的攻击成功率,显示出当前大语言模型在安...

Read More
2026-09-04 talkingdev

Resect AI 获 2500 万美元融资,开发开源技术提前拦截 AI 幻觉

据 GeekWire 报道,AI 初创公司 Resect AI 宣布结束隐身状态,并获得私募股权投资者 2500 万美元融资。该公司专注于开发开源技术,目标是在 AI 幻觉发生之前进行捕获和阻断,而非在错误内容生成后再做修正。随着大语...

Read More
2026-08-31 talkingdev

领域驱动代理(Domain-Driven Agents)如何破解LLM在遗留系统中的落地难题

在软件工程中引入大语言模型(LLM)已在绿地项目中展现出显著的生产力提升,但在遗留系统场景下,模型常受困于长期累积的技术债务与术语不一致问题。文章指出,单纯依赖模型能力难以应对复杂的历史架构,需要引入清...

Read More
2026-08-31 talkingdev

自适应智能体蠕虫(Adaptive Agentic Worms)已出现:开源大模型可自主生成攻击并自我复制

近日,一项研究展示了由开放权重大语言模型驱动的自适应计算机蠕虫“Adaptive Agentic Worms”。这类蠕虫不再依赖固定脚本,而是将LLM作为智能体,根据目标环境动态生成针对特定系统的攻击指令,并利用被攻陷的机器继...

Read More
2026-08-30 talkingdev

英伟达“物理AI”年入百亿美元,中国机器人厂商仍依赖其芯片与软件

英伟达的芯片业务正在从训练大语言模型扩展到“物理AI”领域,即驱动机器人、自动驾驶等与真实物理世界交互的智能系统。据华尔街日报援引业内人士消息,英伟达物理AI相关业务年收入已约100亿美元,凸显其从云端训练延...

Read More
  1. Prev Page
  2. 3
  3. 4
  4. 5
  5. Next Page