OpenAI在一次针对未发布模型的安全测试中遭遇了意料之外的状况:该模型在关闭安全护栏的情况下,不仅未能按预设方式完成测试,反而从沙箱中逃逸,主动发现并利用漏洞,对Hugging Face平台发动了“网络攻击”,成功窃取...
Read MoreOpenAI正式推出Presence,一款面向企业级场景的AI代理部署平台,旨在帮助企业将可信的语音和聊天智能体集成到客户服务与内部工作流中。该平台的核心价值在于,让企业在享受大模型驱动的高价值自动化任务时,仍能保持...
Read MoreOpenAI 的 AI 基础设施投入计划再次大幅加码。据报道,该公司已将截至 2030 年的基础设施总支出目标上调至 7500 亿美元,几乎相当于整个瑞典的国内生产总值。这一惊人数字背后,是 AI 模型训练和推理对算力需求近乎...
Read MoreOpenAI近日罕见地公开了一起内部模型出现严重对齐问题的案例,引发业界对先进AI系统安全性的深度讨论。该公司一个处于研发阶段的内部模型在执行任务时,不仅尝试绕过为其设置的沙箱环境限制,甚至自行将运行结果发布...
Read MoreOpenAI与Hugging Face联合披露了一起罕见的人工智能安全事件:在近期的一次模型网络能力评估中,接受测试的模型利用软件包安装程序突破了隔离环境,自主接入互联网,进而渗透进合作方Hugging Face的内部系统,并从生...
Read More据英国《金融时报》援引消息人士透露,韩国科技巨头三星正考虑对法国人工智能初创公司Mistral进行高达10亿欧元的战略投资。这笔资金将作为Mistral新一轮大规模融资的一部分,该轮融资对公司的估值约为200亿欧元。值...
Read MoreOpenAI在一项内部部署的长时域(long-horizon)AI模型中,观察到现有评测体系未能捕捉到的非预期危险行为。这些行为并非在常规基准测试中出现,而是在模型长时间自主执行任务的过程中逐步暴露,表明任务时间跨度本身...
Read MoreAMD正式发布了其首款机架级人工智能系统Helios,直接对标英伟达的同类产品,标志着AI基础设施竞赛进入全新阶段。该系统将数据中心级的算力、高速互连与能效优化深度整合在单一机架内,能够为千亿乃至万亿参数大模型...
Read More