在当今 AI 应用爆发式增长的时代,大型语言模型(LLM)动辄拥有数十亿甚至上千亿参数,其设计初衷是追求“全能”,但在实际落地中,这种“大而全”往往意味着在特定场景下的效率低下和资源浪费。Fastino Labs 推出的 Pio...
Read More一篇来自LessWrong社区的技术文章深入探讨了2023年至2031年间大型语言模型(LLM)规模扩展的物理极限。文章指出,虽然预训练算力是决定模型规模的关键,但一个常被忽视的硬性约束在于推理时的令牌生成速度。具体来说...
Read MoreMorph LLM近期发布了一系列针对开源代码生成模型的优化技术,旨在解决当前推理效率瓶颈。首先,团队通过训练一个专注于模型自身编码输出(而非通用互联网数据)的“起草模型”(drafter),在投机解码中取得了显著加速...
Read More由VLC媒体播放器首席开发者Jean-Baptiste Kempf创立的巴黎初创公司Kyber,宣布获得500万美元融资,由知名风投Lightspeed领投。Kyber专注于开发低延迟远程设备控制SDK,旨在将VLC在高性能视频处理方面的技术积累,延...
Read MorePerplexity AI公司近日在其官方博客中披露了一项名为Brain的新型记忆系统。该系统旨在解决当前AI代理在执行复杂任务时缺乏上下文和长期记忆的痛点。Brain通过构建一个跨任务、项目、决策、文件和资料源的持续上下文...
Read More游戏行业巨头 Epic Games 近日在 GitHub 上开源了一款名为 Lore 的下一代版本控制系统,引发了开发者社区的广泛关注。与传统的 Git 或 SVN 不同,Lore 的核心设计目标是为了解决大型项目中,尤其是包含海量二进制资...
Read MoreCursor团队近日通过社交媒体宣布推出名为“Origin”的Git兼容代码协作平台,其核心定位是成为首个面向AI Agent的原生GitHub竞品。与GitHub以人类开发者为中心的架构不同,Origin从底层设计上就假设大量AI Agent将并行...
Read More在AI驱动原型设计显著加速软件交付的当下,一篇来自技术作者Matt Sayar的洞察文章再次为行业敲响警钟:尽管借助Claude Code等工具,开发者可以快速从UI仓库克隆代码、添加功能并记录演示视频,但这些AI生成的原型距...
Read More