Liquid AI推出开源权重推理模型LFM2.5-24B-A2B,总参数量为240亿,但每次推理仅激活20亿参数。这种稀疏激活设计使其更适配资源受限的端侧设备,可在本地完成快速、私密的智能体任务。官方数据显示,该模型在8项基准...
Read More美国国会两党议员与加州州长纽森近期提出为人工智能系统设置“紧急断电”机制(kill switch)的立法构想,希望能在AI失控时立即切断其算力或运行能力。但纽约时报援引专家观点指出,这一设想在执行层面远比立法者预期...
Read More近日,开源推理引擎WASTE正式亮相,其核心亮点在于能够运行权重规模远超宿主设备物理内存的模型。该引擎作为让强大模型在更多硬件上可用的初步举措,旨在为个人和机构在基础设施成本、数据隐私、可用性及部署方式上...
Read More英伟达在Hugging Face上正式推出Cosmos 3 Edge,这是一款拥有40亿参数的开源世界模型,专为边缘设备上的机器人与视觉AI体设计。该模型通过共享的世界表征,将环境理解、实时预测、模拟与动作生成统一在同一框架下,...
Read More近日,Liquid AI宣布推出其最新基础模型LFM2.5-230M,这是一款参数规模仅为2.3亿的非Transformer架构模型。与当前主流的Transformer模型不同,LFM2.5-230M基于状态空间模型与液态神经网络连续时间公式构建。尽管体积...
Read MoreTether团队近日发布了QVAC SDK的最新版本,这是一款面向本地设备、专注于构建跨平台P2P应用的开源工具包。此次更新的核心亮点在于集成了名为TurboQuant的全新优化技术。通过这一技术,开发者在相同硬件条件下,能够...
Read More在大型语言模型(LLM)和视觉语言模型(VLM)部署中,模型量化是降低计算和存储成本的关键技术。然而,传统量化方法往往需要在模型大小和推理精度之间做出艰难取舍,尤其是在超低位宽(如2-bit、3-bit)下,精度损失...
Read More近日,GitHub上一个名为‘soulplayer-c64’的开源项目引发了技术社区的广泛关注。该项目成功地在仅有1MHz主频、内存极其有限的经典计算机Commodore 64上,部署并运行了一个拥有25,000个参数的真实Transformer神经网络...
Read More