漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2026-10-14 talkingdev

LFM2.5-24B-A2B发布:24B参数仅2B活跃,端侧智能体推理快1.7倍,多项测试超Qwen3.6-35B-A3B

Liquid AI推出开源权重推理模型LFM2.5-24B-A2B,总参数量为240亿,但每次推理仅激活20亿参数。这种稀疏激活设计使其更适配资源受限的端侧设备,可在本地完成快速、私密的智能体任务。官方数据显示,该模型在8项基准...

Read More
2026-09-20 talkingdev

专家警告:AI“紧急断电”立法远难落地,失控AI或主动拆解关闭机制

美国国会两党议员与加州州长纽森近期提出为人工智能系统设置“紧急断电”机制(kill switch)的立法构想,希望能在AI失控时立即切断其算力或运行能力。但纽约时报援引专家观点指出,这一设想在执行层面远比立法者预期...

Read More
2026-07-31 talkingdev

开源WASTE推理引擎发布:仅需29GB内存即可本地运行2700亿参数Kimi K3模型

近日,开源推理引擎WASTE正式亮相,其核心亮点在于能够运行权重规模远超宿主设备物理内存的模型。该引擎作为让强大模型在更多硬件上可用的初步举措,旨在为个人和机构在基础设施成本、数据隐私、可用性及部署方式上...

Read More
2026-07-21 talkingdev

英伟达发布Cosmos 3 Edge:40亿参数世界模型赋能边缘设备实时推理与机器人动作生成

英伟达在Hugging Face上正式推出Cosmos 3 Edge,这是一款拥有40亿参数的开源世界模型,专为边缘设备上的机器人与视觉AI体设计。该模型通过共享的世界表征,将环境理解、实时预测、模拟与动作生成统一在同一框架下,...

Read More
2026-06-26 talkingdev

Liquid AI发布LFM2.5-230M:超紧凑非Transformer模型,边缘推理性能媲美三倍规模模型

近日,Liquid AI宣布推出其最新基础模型LFM2.5-230M,这是一款参数规模仅为2.3亿的非Transformer架构模型。与当前主流的Transformer模型不同,LFM2.5-230M基于状态空间模型与液态神经网络连续时间公式构建。尽管体积...

Read More
2026-06-05 talkingdev

开源| QVAC SDK震撼更新:本地运行大模型,上下文容量暴增5倍,TurboQuant技术加持

Tether团队近日发布了QVAC SDK的最新版本,这是一款面向本地设备、专注于构建跨平台P2P应用的开源工具包。此次更新的核心亮点在于集成了名为TurboQuant的全新优化技术。通过这一技术,开发者在相同硬件条件下,能够...

Read More
2026-05-04 talkingdev

开源|AutoRound:10分钟单GPU搞定7B大模型量化,极致压缩精度不减

在大型语言模型(LLM)和视觉语言模型(VLM)部署中,模型量化是降低计算和存储成本的关键技术。然而,传统量化方法往往需要在模型大小和推理精度之间做出艰难取舍,尤其是在超低位宽(如2-bit、3-bit)下,精度损失...

Read More
2026-04-21 talkingdev

开源|Soul Player C64:在1MHz的Commodore 64上运行的真实Transformer模型

近日,GitHub上一个名为‘soulplayer-c64’的开源项目引发了技术社区的广泛关注。该项目成功地在仅有1MHz主频、内存极其有限的经典计算机Commodore 64上,部署并运行了一个拥有25,000个参数的真实Transformer神经网络...

Read More
  1. 1
  2. 2
  3. 3
  4. Next Page