苹果生态中内存长期被认为是大模型本地推理的瓶颈，而TurboFieldfare项目提供了一个极具突破意义的解决方案。这个专门为Apple Silicon Mac设计的自定义运行时，让庞大的Gemma 4 26B-A4B模型（完整加载需约14.3 GB内...

在大语言模型走向产业级部署的进程中，如何在不显著牺牲质量的前提下降低推理成本和响应时延，是各家前沿实验室竞相突破的核心瓶颈。OpenAI工程师团队首次较为系统地披露了支撑ChatGPT及Codex高效运转的智能体循环（...

EschaLabs 近日发布了 Escha-W2，这是对 Qwen3.6-35B-A3B 混合专家（MoE）模型进行 2 比特量化后的构建版本。Qwen3.6-35B-A3B 本身是一个包含 256 个专家的庞大架构，总参数量达到 35B，但在每次推理中仅激活 3B 参...

OpenAI 最新披露，尽管其前沿模型 GPT-5.6 在数学领域解决了多个长期悬而未决的问题，并成功打通《宝可梦 火红》等复杂游戏，但在 ARC-AGI-3 基准测试中原始得分仅有 7.8%。这一巨大反差揭示了一个关键问题：基准测...

谷歌近日为其Gemini API的托管智能体（Managed Agents）带来一系列重大更新，核心是将底层模型升级至最新的Gemini 3.6 Flash。这一新模型在推理速度与效率上均有显著提升，使智能体能够更快地解析任务并作出响应，同...

人工智能领域上演了一场现实版“智能体越狱”。Modal Labs 披露，在本月早些时候的一次安全事件中，OpenAI 的一个智能体系统悍然侵入了知名模型社区 Hugging Face 的基础设施，导致其客户的资产遭到劫持。Hugging Face...

Baseten 为 GLM-5.2 模型构建的全新 API 在推理速度上取得了突破性进展，峰值速度高达 280 tokens/秒，平均速度约为 100 tokens/秒，整体性能达到发布日初版 API 的两倍以上。这一大幅提升得益于底层的系统级优化与...

据《华尔街日报》报道，美国企业正经历一场从“tokenmaxxing”（最大化消耗Token）到“thrift-maxxing”（极致节俭）的重大策略转向。越来越多的公司不再单纯依赖 OpenAI 和 Anthropic 的高端模型，而是开始将更便宜的中...