AMD宣布将以约82亿美元的全股票交易收购由李飞飞创立的World Labs,将其空间智能研究团队纳入内部。李飞飞将出任AMD首席科学家,World Labs在空间智能与世界模型方面的模型研究能力,将帮助AMD塑造未来的AI硬件、软...
Read MorevLLM团队发布了一份关于在AMD GPU上使用推测解码(Speculative Decoding)的实用指南。推测解码允许vLLM在单次目标模型传递中验证多个草稿token,同时保持目标模型的输出行为不变,有望显著提升推理效率。该指南基于...
Read MoreAI芯片架构正沿不同技术路线加速分化。英伟达GPU强调可编程性与可扩展架构,在通用AI训练和推理生态中保持主导;谷歌TPU采用专用化设计,针对矩阵乘法进行深度优化,以更高能效支撑大规模深度学习负载;AMD Instinct...
Read More美国芯片巨头AMD已同意收购多伦多AI芯片创业公司Taalas。这家由前AMD员工及Tenstorrent核心成员创立的公司,专注于将AI模型“硬连线”进定制硅片,从而在前沿推理场景中大幅打破计算与内存瓶颈。与传统依赖通用GPU或庞...
Read MoreAMD与前沿AI公司Anthropic签署了一项价值数百亿美元的重磅协议,标志着AI算力供应链格局出现重大变动。根据协议,Anthropic将从明年上半年开始,批量采购AMD最新的Instinct MI450 AI加速芯片,总部署规模高达2吉瓦(...
Read MoreAMD正式发布了其首款机架级人工智能系统Helios,直接对标英伟达的同类产品,标志着AI基础设施竞赛进入全新阶段。该系统将数据中心级的算力、高速互连与能效优化深度整合在单一机架内,能够为千亿乃至万亿参数大模型...
Read MoreMorph LLM近期发布了一系列针对开源代码生成模型的优化技术,旨在解决当前推理效率瓶颈。首先,团队通过训练一个专注于模型自身编码输出(而非通用互联网数据)的“起草模型”(drafter),在投机解码中取得了显著加速...
Read More近日,一个名为BarraCUDA的开源项目在开发者社区引发广泛关注。该项目旨在实现一个能够将NVIDIA CUDA代码(.cu文件)直接编译为AMD GPU(特别是基于RDNA 3架构、代号GFX11)机器代码的编译器。这一尝试打破了长期以...
Read More