WebLLM 是 MLC AI 推出的高性能浏览器端大语言模型推理引擎,它借助 WebGPU 将开源模型的加载与推理全过程放在用户浏览器内完成,不需要后端服务器。该项目提供兼容 OpenAI 的 API,可支持流式输出、JSON 模式等聊天...
Read MoreMATS研究员在一项安全研究中发现,一段原本用于生成合成文本记录的安全研究提示词,可被改造成跨模型通用越狱模板。该模板在23个受测模型中的9个最脆弱模型上实现了84%至100%的攻击成功率,显示出当前大语言模型在安...
Read More据 GeekWire 报道,AI 初创公司 Resect AI 宣布结束隐身状态,并获得私募股权投资者 2500 万美元融资。该公司专注于开发开源技术,目标是在 AI 幻觉发生之前进行捕获和阻断,而非在错误内容生成后再做修正。随着大语...
Read More在软件工程中引入大语言模型(LLM)已在绿地项目中展现出显著的生产力提升,但在遗留系统场景下,模型常受困于长期累积的技术债务与术语不一致问题。文章指出,单纯依赖模型能力难以应对复杂的历史架构,需要引入清...
Read MoreNVIDIA在Hugging Face平台推出DeepSeek-V4-Pro-0813-NVFP4量化模型,该模型是DeepSeek-V4-Pro-0813的量化版本,采用自回归混合专家(MoE)语言模型架构。通过NVIDIA Model Optimizer量化后,模型在保持高级推理能力...
Read More近日,一项研究展示了由开放权重大语言模型驱动的自适应计算机蠕虫“Adaptive Agentic Worms”。这类蠕虫不再依赖固定脚本,而是将LLM作为智能体,根据目标环境动态生成针对特定系统的攻击指令,并利用被攻陷的机器继...
Read More英伟达的芯片业务正在从训练大语言模型扩展到“物理AI”领域,即驱动机器人、自动驾驶等与真实物理世界交互的智能系统。据华尔街日报援引业内人士消息,英伟达物理AI相关业务年收入已约100亿美元,凸显其从云端训练延...
Read MoreHalo Neuro正式发布Sopro V2语音克隆文本转语音模型家族,并开源其中的轻量级多语言模型Sopro V2 Turbo。该模型仅120M参数,具备语音克隆能力,支持多语言合成,并原生支持欧洲葡萄牙语,能够在笔记本CPU和浏览器环...
Read More