NVIDIA的Groq 3 LPX AI推理加速芯片现已进入全面量产阶段。Groq 3 LPX机架作为NVIDIA Vera Rubin平台的扩展，显著提升了AI推理能力，能够为响应敏感型智能体（Agentic）工作负载提供超高速的Token生成表现。在面向智...

美国芯片巨头AMD已同意收购多伦多AI芯片创业公司Taalas。这家由前AMD员工及Tenstorrent核心成员创立的公司，专注于将AI模型“硬连线”进定制硅片，从而在前沿推理场景中大幅打破计算与内存瓶颈。与传统依赖通用GPU或庞...

近日，GitHub上开源了一个名为GoModel的高性能AI网关项目，该项目使用Go语言编写，旨在为开发者提供一个统一的、兼容OpenAI API标准的接口，以无缝对接包括OpenAI、Anthropic（Claude）、Google Gemini、Groq、xAI（...

开发者Nick Tikhonov近日开源了一个名为“shuo”的语音助手项目，其端到端平均延迟仅为约400毫秒（从用户停止说话到助手发出第一个音节）。这一性能指标在集成了完整的语音识别（STT）、大语言模型（LLM）和语音合成（...

据Axios记者Dan Primack援引知情人士消息，人工智能芯片初创公司Groq与英伟达（Nvidia）达成的价值约200亿美元的交易细节进一步披露。此次收购不仅是今年半导体与AI领域最受瞩目的交易之一，更在员工与股东利益安排...

据CNBC独家报道，全球人工智能芯片巨头英伟达（Nvidia）正在进行其有史以来规模最大的一笔收购，将以约200亿美元的现金，收购成立九年的AI芯片初创公司Groq的资产。这笔交易不仅刷新了英伟达自身的收购纪录，也成为...

Groq的低延迟硬件技术现已正式成为Hugging Face Hub及SDK的可选推理服务提供商，这一合作标志着AI基础设施领域的重大突破。通过集成Groq的专用处理器架构，开发者能够以服务器无感知（serverless）方式极速调用Llama...

近日，研究人员利用Llama-3.1 70B模型在Groq平台上实现了o1类推理链的创建。这一创新方法通过结合高效的推理能力和强大的计算性能，提升了机器学习模型在复杂任务中的表现。Groq的硬件架构为Llama-3.1 70B模型提供了...