NVIDIA的Groq 3 LPX AI推理加速芯片现已进入全面量产阶段。Groq 3 LPX机架作为NVIDIA Vera Rubin平台的扩展，显著提升了AI推理能力，能够为响应敏感型智能体（Agentic）工作负载提供超高速的Token生成表现。在面向智...

OpenAI正式预览了GPT-5.6 Sol的Ultrafast模式，该模式在推理速度上实现显著突破，最高可生成750个输出token/秒，整体处理速度达到标准模式的14倍。值得关注的是，这一性能提升并非通过切换更小的轻量模型来实现，而...

来自Google的研究团队发布了DiffusionGemma技术报告，提出了一种实验性的开源权重语言模型，通过离散扩散生成文本，速度远超传统自回归模型。DiffusionGemma并未从零训练，而是在专家混合架构Gemma 4（激活参数38亿...

人工智能公司 celeris AI 正式推出全新通用语言模型 celeris-1，该模型在保持前沿智能水平的同时，实现了突破性的响应速度。celeris-1 的核心创新在于采用了一种基于扩散技术的新型推理架构，从根本上重构了传统自回...

DeepSeek近日正式开源了一款名为DSpark的创新框架，旨在显著加速大型语言模型（LLM）的推理过程，据称最高能将解码速度提升85%。这一突破性进展直接针对当前AI大模型在实际应用中普遍存在的响应延迟痛点。与传统模型...

英伟达（NVIDIA）最新开源了LongLive 1.0框架，旨在解决长视频生成领域长期面临的实时交互难题。该框架通过引入流式注意力（Streaming Attention）和KV缓存优化（KV-cache optimization）技术，实现了对超长视频序列...

谷歌近期在Gemma大型语言模型上实现了令人瞩目的推理速度提升，成功将性能提升了三倍。这一突破性进展的核心在于采用了“投机解码”（Speculative Decoding）技术。该技术的工作原理是部署一个轻量级、速度极快的“草稿...

Google最新发布的Gemma 4模型通过引入多Token预测（Multi-Token Prediction, MTP）草案机制，显著降低了延迟瓶颈，提升了开发者的交互响应体验。该技术利用一种专门的投机性解码（Speculative Decoding）架构，在不...