领先的AI安全与研究公司Anthropic近日在官方技术博客中详细分享了其如何跨产品确保AI助手Claude的安全部署策略。面对AI智能体自主操作带来的潜在风险，Anthropic并未单纯依赖人类监督，而是构建了多层次的防御体系。...

近日，一个名为Mnemo的开源项目在GitHub上引起了开发者社区的广泛关注。该项目旨在为任何大型语言模型（LLM）提供一个本地优先的人工智能记忆层。Mnemo的核心创新在于，它摒弃了传统依赖云端或外部API的记忆管理方式...

Anthropic近日宣布推出名为“Claude Connectors”的新型集成工具，旨在将Claude AI模型无缝嵌入到主流创意软件生态中。首批支持的软件包括Adobe系列（如Photoshop、After Effects）、开源3D创作套件Blender以及Autodes...

据彭博社报道，中国相关部门近期发布了一份关于拟人化人工智能系统使用的监管规则草案，旨在加强对该前沿技术应用的规范。草案核心要求之一是，提供拟人化AI服务的公司必须在用户登录时，以及此后至少每两小时，明确...

最新研究揭示，基于大语言模型（LLM）的智能体AI系统存在根本性安全缺陷——模型无法有效区分指令与数据，导致其极易遭受提示注入攻击。攻击者可通过在Jira工单、网页内容等非受信源中嵌入隐藏指令，诱使具有敏感数据...

GitHub上新出现的Jaaz项目标志着创意工具领域的重要突破。作为全球首个开源的多模态创意助手，Jaaz专注于隐私保护并支持完全本地化运行，无需依赖云端服务。该项目采用先进的多模态AI技术，能够根据文本提示生成高质...

根据2024年美国联邦通信委员会（FCC）的裁决，联邦上诉法院近日驳回了T-Mobile公司试图推翻9.2亿美元罚款的上诉请求。该罚款源于T-Mobile在未经用户同意的情况下，非法将客户位置数据出售给第三方公司。这一裁决不仅...

开发者Wyatt Joh近日在JSR平台发布了两个开源工具包@wyattjoh/imessage和@wyattjoh/imessage-mcp，这些工具允许大型语言模型（LLM）如Claude在macOS系统上以只读方式访问用户的iMessage数据库。这一创新技术使用户能...