提示缓存正在成为构建经济型智能体的关键技术,但其表现十分脆弱。在编码智能体等复杂系统中,一次工具定义的修改、模型版本的切换,或云服务提供商的路由决策变更,都可能将原本低成本的增量请求转变为对上下文的完...
Read More在依赖类型语言的世界里,强大的类型系统往往意味着沉重的证明负担——开发者可能需要花费数小时才能发现要证明的命题根本就是错误的。这种高昂的认知开销使依赖类型编程长期停留在小众领域。如今,这一局面正在被打破...
Read MoreBaseten 为 GLM-5.2 模型构建的全新 API 在推理速度上取得了突破性进展,峰值速度高达 280 tokens/秒,平均速度约为 100 tokens/秒,整体性能达到发布日初版 API 的两倍以上。这一大幅提升得益于底层的系统级优化与...
Read More近日,开发者服务公司 Evil Martians 在其团队博客公布了为期两个月的服务器端追踪数据,对 web 流量中人类访客与 AI 爬虫的行为差异进行了量化分析。数据显示,AI 代理请求量达到 26.8 万次,远超同期 10.7 万次的...
Read More随着大模型和AI代理日益广泛地集成到各类业务系统中,如何安全管理API密钥、数据库密码等敏感凭证成为开发者面临的一大痛点。近日开源的OneCLI提供了一个精巧的解决方案:它以凭证网关的形式,在AI代理与服务之间构...
Read More微软正式推出两款全新自研AI模型——MAI-Image-2.5-Pro和MAI-Voice-2-Flash,进一步强化其在多模态生成领域的布局。MAI-Image-2.5-Pro专注于高保真图像生成与编辑,能够根据复杂文本描述生成细节丰富、构图精准的高质...
Read More人工智能领军人物吴恩达(Andrew Ng)在GitHub上开源了一个名为OpenWorker的新项目。该项目旨在构建一个运行在本地桌面端的AI同事,它能够理解用户指令,自主跨越不同的文件、文件夹乃至桌面应用程序来执行复杂工作...
Read MorePetals 是一个颠覆性的点对点网络平台,它让普通用户能够在自己家中,仅凭消费级GPU甚至是免费的Google Colab笔记本环境,就运行起像 Llama 3.1、Mixtral、Falcon 和 BLOOM 这类巨型语言模型。其核心技术思路是将大...
Read More