谷歌与Meta正联手推进一项关键合作,旨在通过名为“TorchTPU”的新项目,大幅提升谷歌自研的张量处理单元(TPU)对PyTorch深度学习框架的原生支持能力。此举的核心目标是削弱英伟达凭借其CUDA软件生态在AI计算市场建立...
Read More英伟达近日正式发布了Nemotron 3系列开源模型,该家族包含Nano(300亿参数,30亿活跃参数)、Super(1000亿参数)和Ultra(5000亿参数)三个版本,其中Super和Ultra型号计划于2026年初推出。尤为引人注目的是,当前...
Read More近期,关于中美之间一场关乎生存的人工智能竞赛的讨论甚嚣尘上。然而,根据《金融时报》专栏作家Tim Wu的分析,中国及其主要科技公司正将巨额资金投向人工智能以外的关键领域,特别是电动汽车和机器人技术,以谋求全...
Read More英伟达于近日公布了其最新一代GB200 Blackwell AI服务器的性能基准测试数据,结果显示,相较于前代H100/H200平台,该服务器在运行特定类型的混合专家模型时,性能提升高达10倍。此次测试重点针对中国AI公司月之暗面...
Read More前沿科技领域迎来一项重要整合:高性能JavaScript运行时、打包器和包管理器Bun已被AI研究公司Anthropic正式收购。此次收购为Bun项目提供了长期稳定的资源支持,使其能更专注于构建最先进的JavaScript开发工具链,特...
Read More亚马逊云科技(AWS)在自研AI芯片领域持续发力,近日正式发布了其第三代AI训练专用芯片——Trainium3。这款芯片在性能规格上表现亮眼,标志着AWS在降低AI计算成本、提供多元化算力解决方案方面迈出了重要一步。值得注...
Read More在大型语言模型推理优化领域,Prompt缓存技术正成为提升服务效率、降低计算成本的关键前沿技术。本文深入解析了Prompt缓存的核心工作原理,特别聚焦于vLLM框架中创新的Paged Attention机制及其实现的自动前缀缓存。...
Read More近日,GitHub开源项目Acontext正式发布,这是一个专为自学习智能体设计的上下文数据平台。该平台旨在通过统一的上下文管理,解决当前AI代理在持续学习过程中面临的数据碎片化和上下文丢失问题。Acontext的核心价值在...
Read More