漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2026-09-17 talkingdev

开源|Soup:一个YAML文件搞定LLM微调,8B模型仅需3.32GB显存

Soup 是一个以简化大语言模型微调与后训练流程为目标的开源项目。它将模型训练配置整合进一个 YAML 文件,并通过一条命令完成微调、评估、导出、推理服务部署等环节,同时提供 Web UI。项目支持常见训练方法,并可对...

Read More
2026-09-12 talkingdev

传英伟达拟投至多100亿美元,成Anthropic IPO锚定投资者:估值或达2万亿美元

据路透社援引知情人士消息,Anthropic正与英伟达进行谈判,希望后者成为其首次公开募股(IPO)的锚定投资者。若谈判顺利,这笔交易有望成为史上最大规模IPO,融资目标最高达1000亿美元,对应整体估值约为2万亿美元,...

Read More
2026-09-10 talkingdev

消息称中国AI芯片商华为、寒武纪、MetaX、Iluvatar CoreX提价20%-50%,HBM成本上涨为主因

据路透社报道,中国AI芯片厂商华为、寒武纪、MetaX与Iluvatar CoreX已对当前及下一代芯片产品提价20%-50%,主要原因是高带宽存储器(HBM)成本上升。HBM通过3D堆叠DRAM提供远高于普通内存的带宽,是AI训练和推理芯片...

Read More
2026-09-09 talkingdev

Cohere发布North Mini Code超内核推理引擎:解码速度达vLLM 1.58倍

Cohere近日公布了专为North Mini Code模型打造的超内核(Megakernel)推理服务引擎,将一次完整的解码过程合并进一个常驻GPU内核,而不是像传统方案那样为每个操作启动独立内核。这种设计能够显著减少内核启动开销和...

Read More
2026-09-08 talkingdev

开源|OpenScreen:免费开源GPU加速录屏工具,支持Windows/macOS/Linux且无水印无订阅

OpenScreen是一个在GitHub上开放源码的桌面录屏项目,面向Windows、macOS和Linux三大平台,主打无水印、无订阅的屏幕录制体验。该项目采用GPU加速录制,能够降低视频编码过程中的性能占用,适合开发者、产品经理和内...

Read More
2026-09-08 talkingdev

vLLM在AMD GPU上的推测解码实践:MTP、EAGLE-3、DFlash与DSpark性能调优指南

vLLM团队发布了一份关于在AMD GPU上使用推测解码(Speculative Decoding)的实用指南。推测解码允许vLLM在单次目标模型传递中验证多个草稿token,同时保持目标模型的输出行为不变,有望显著提升推理效率。该指南基于...

Read More
2026-09-08 talkingdev

Vortex 实现从 S3 到 GPU 的单次拷贝,演示扫描性能较 Parquet 快约 30 倍

在 QCon London 2026 上,SpiralDB 团队展示了 Vortex 如何将压缩列式数据从 S3 直接流式传输到 GPU 内存,全程仅需一次拷贝。相比传统方案先将数据落盘或依赖 CPU 解压,Vortex 的列式布局能够在传输前对数据进行裁...

Read More
2026-09-08 talkingdev

开源|Qwen-Drive-1.0:打通感知、语言与规划的自动驾驶视觉语言基础模型

QwenLM团队在GitHub开源了Qwen-Drive-1.0项目,定位为面向自动驾驶的视觉语言基础模型。该项目采用分阶段训练策略,将感知、语言理解和规划目标融合到统一框架中,使模型既能获得专业驾驶能力,又能保留广泛的视觉理...

Read More
  1. Prev Page
  2. 3
  3. 4
  4. 5
  5. Next Page