两周适配10万+国产加速器：GLM用AI智能体自建推理基础设施，吞吐量提升3倍
talkingdev • 2026-09-18
3391 views
近日，Z.ai 披露了一项引人注目的技术实践：团队利用由 GLM-5.3 驱动的 Infra Agent，在不到两周时间内为 GLM-5.3-Flash 构建了可支撑 10 万张以上国产加速器的生产级推理服务栈。这并非传统的人工运维或脚本化部署，而是让智能体深度参与内核修复、调度优化与系统级调优，形成密集反馈闭环，最终将推理吞吐量提升至原来的三倍。值得关注的是，人类仍负责目标定义与风险控制，智能体则在工程实现层面承担大量探索和执行工作。这一案例被视为大模型向“递归自我改进”迈进的重要信号：模型不仅处理外部任务，还开始参与自身服务基础设施的建设与优化。若该模式成熟，可能显著缩短国产算力适配周期，降低大模型推理成本，并推动 AI 工程从手工调优走向智能体驱动的自动化演进。
核心要点
- Z.ai 使用 GLM-5.3 驱动的 Infra Agent，在不到两周内完成 GLM-5.3-Flash 生产推理栈搭建。
- 该推理栈部署于 10 万+ 张国产加速器，并通过内核修复与系统级优化实现吞吐量三倍提升。
- 人类保留目标与风险控制权，智能体承担工程实现，展现大模型递归自我改进潜力。