Meta旗下超级智能实验室正式推出Muse Glimmer，一个拥有300亿参数的开源智能体模型，采用Apache 2.0许可证。该模型专为消费级硬件上的常驻本地工作流优化，重点面向编程、函数调用和模型评估等场景，并展现出强大的...

Deno团队正式开源了一款名为Celld的后台守护进程，为开发者带来了革命性的自托管能力。该项目旨在将类似Cloudflare Durable Objects的分布式有状态计算，以及Cloudflare Workers的边缘函数运行环境，完整迁移到个人...

近日，GitHub上开源了一个名为TriAttention的项目，其核心是一种创新的KV（键值）缓存压缩技术。该技术旨在解决大语言模型在处理长上下文任务时，因KV缓存占用内存巨大而难以在消费级或内存受限的GPU上高效部署的行...

近日，GitHub上出现了一个名为Gemma Gem的开源项目，它是一个Chrome浏览器扩展，能够将谷歌最新发布的Gemma 4大型语言模型完全在用户本地设备上运行。该项目最大的技术亮点在于，它通过新兴的WebGPU API来实现高性能...

随着人工智能代理技术日益渗透日常生活，其直接控制个人设备所引发的安全隐患正成为科技界焦点问题。最新行业分析指出，当前AI代理系统普遍存在权限控制粒度不足的缺陷，可能导致密码、API密钥等敏感信息暴露风险。...

惠普AI Studio推出创新技术方案，通过模型蒸馏技术将前沿大语言模型DeepSeek-R1的推理能力压缩至可在本地设备运行的轻量级版本。该技术突破实现了大模型从云端到本地的迁移，用户可通过Ollama框架进行本地推理部署，...

Sam Altman，前Y Combinator总裁，与Jony Ive，苹果前首席设计师，正式合作开发一款新型AI个人设备。这款设备将不会采用传统智能手机的形式。目前，他们正在寻求最高10亿美元的融资支持。该设备的设计理念是将人工智...

本文旨在总结2023年人工智能发展的亮点。它涵盖了如何在个人设备上运行LLMs、微调模型、易受骗问题、LLM应用等方面。LLMs可以为有效使用它们的人提供显著的生活品质提升。它们实际上相当容易构建，但仍有许多未知数...