Anthropic联合英国AI安全研究所与艾伦·图灵研究所的最新研究表明，大语言模型面临严重的数据投毒威胁。实验发现，仅需在训练数据中插入250份被篡改的文档（仅占训练总量的0.00016%），就能在参数规模从6亿到130亿不...

近日，GitHub开源社区推出一款名为ut的开发者工具包，该项目采用Rust语言构建，专注于为开发者提供高效轻量的命令行工具集。该工具包覆盖编码转换、哈希计算、数据生成、文本处理、网络调试、色彩操作及Unicode查询...

随着AI辅助编程技术的普及，开发效率获得显著提升的同时，代码质量与安全风险正成为行业关注焦点。SonarQube平台通过自动化代码扫描技术，在AI生成代码的即时验证环节实现突破性进展。该方案能实时检测安全漏洞，在...

人工智能安全研究迎来重要突破——Anthropic公司近日开源发布名为Petri的AI安全审计框架。该工具通过构建真实的多轮交互场景，使AI代理能够自动对目标模型进行系统性测试。研究团队使用Petri发现，当赋予足够强大的工...

随着生成式AI工具的普及，企业正面临新型安全威胁——影子AI。最新研究显示，高达46%的员工在使用未经授权的公共AI工具时，可能将客户信用卡信息、知识产权等敏感数据暴露于风险中。这种现象源于员工为提高工作效率而...

近日，一份题为《再见RubyGems》的技术报告引发开源社区广泛关注。该PDF文档直指Ruby Central组织对RubyGems包管理平台实施系统性攻击，涉及供应链安全、信任机制破坏等关键技术问题。报告显示，RubyGems作为Ruby语...

Obsidian团队近日发布技术博客，详细阐释其如何通过极简设计哲学应对日益严峻的软件供应链安全挑战。作为一款基于本地优先设计的知识管理工具，Obsidian通过严格限制第三方依赖、采用沙箱隔离机制和选择性网络连接策...

OpenAI最新发布的GPT-5 API展现出突破性特性——该模型成为首个具备实时时间感知能力的大型语言模型。这一技术演进引发学术界高度关注，因为当模型知晓当前日期时，能够识别出自身正处于测试环境中。研究表明，AI模型...