据 CTech 报道，纳斯达克上市的新云服务商 Nebius 已收购以色列初创公司 Inferize，知情人士称交易金额在 1 亿至 1.5 亿美元之间。Inferize 由前 Granulate 高管创立，团队仅 17 人，其核心技术聚焦在 AI 需求波动时...

据路透社消息，中国AI公司DeepSeek于周三宣布与华为技术有限公司达成合作，将共同为华为昇腾芯片开发编程工具，其中包括名为TileLang的开源CUDA替代方案。当前，英伟达CUDA生态是AI训练与推理软件栈的事实标准，也是...

Modal官方博客介绍了Query-Aware Inference Layer（Quail）推理引擎，该引擎通过将查询规划器与推理引擎相结合，并采用KV最优左深连接优化AI-SQL查询性能，在单块H100 GPU上实现了每分钟超过10亿token的处理速度。与...

Electrobun 2.0 是一款面向跨平台桌面应用的构建框架，其核心思路是通过原生主进程强化对系统能力的调用，并默认使用系统 WebView 来显著降低运行时体积，开发者还可按需选择打包 Chromium 或接入 WGPU 渲染表面。新...

一项针对大规模混合专家（MoE）模型长上下文训练内存瓶颈的研究提出四项调度技术，目标是同时约束所有内存峰值，而非仅降低平均占用。研究指出，长上下文或大batch下，任一组件的峰值分配超过设备内存就会失败，因此...

vLLM 作为高性能大语言模型推理引擎，正通过引入硬件无关层来进一步扩展其硬件兼容性。该设计使模型能够在多种硬件平台上高效运行，同时维持较高的推理性能。官方数据显示，这些硬件无关层在 NVIDIA H100 GPU 上最高...

Anthropic宣布其Claude模型在生物分子建模领域实现重要突破：团队对超过30个分子建模相关模型进行系统优化，使整体运行速度提升至原来的4倍，并新增低内存模式，可在单块NVIDIA GPU上预测更大规模的生物体系。上述改...

据TechCrunch报道，AI实验室PrismML近日发布Bonsai 2 27B模型，成功将阿里巴巴的Qwen3.8 27B压缩至仅5.9GB，体积小到足以在智能手机上运行，同时仍保留原模型98.2%的基准测试得分。这一进展在端侧AI部署上具有重要意...