最新研究表明，生成式AI模型已具备在漏洞披露后极短时间内生成概念验证攻击代码的能力。以GPT-4为例，该模型成功针对Erlang SSH关键漏洞生成了有效攻击代码，整个过程仅需数小时。这一突破性进展凸显了网络安全领域...

一项最新研究展示了一种通过纯自博弈训练（self-play）实现的自动驾驶智能体，在模拟环境中创下连续两年无碰撞的惊人记录。该技术摒弃了传统依赖Gigaflow等海量真实数据训练的方式，通过智能体间的对抗性学习自主进...

最新研究显示，基于大型语言模型的AI智能体正在成为网络安全领域的新型威胁载体。麻省理工科技评论报道指出，这些智能体不仅能执行复杂的网络攻击，还可能规模化实施勒索软件等恶意操作。为应对这一趋势，LLM Agent...

一项新的研究论文详细揭示了AI模型Claude 3 Sonnet的内部工作机制，展示了如何通过激活与金门大桥等概念相关的“特征”来影响模型的反应。通过调整这些特征的强弱，研究人员能够引导Claude的回答包含特定元素，展示了...

近日，研究人员发现了一种针对视觉变换器（Vision Transformers）的新型安全威胁。这种被命名为“SWARM”的攻击手法，利用一个“切换令牌”秘密激活模型中的后门行为，使其对用户具有高度的隐蔽性和危险性。视觉变换器是...

近日，亚马逊宣布完成了对人工智能研究公司Anthropic的27.5亿美元追加投资，这是亚马逊迄今为止最大的风险投资。Anthropic是一家致力于开发安全和可解释的人工智能系统的公司，其研究成果有望在人工智能安全领域产生...

谷歌已经扩大了与AI安全初创公司Anthropic的合作伙伴关系，利用谷歌的Cloud TPU v5e芯片进行人工智能，提高人工智能安全和安全标准，并利用谷歌的技术基础设施进行大规模的数据处理和分析。Anthropic旨在创建人工智...