Anthropic联合英国AI安全研究所与艾伦·图灵研究所的最新研究表明，大语言模型面临严重的数据投毒威胁。实验发现，仅需在训练数据中插入250份被篡改的文档（仅占训练总量的0.00016%），就能在参数规模从6亿到130亿不...

近日，GitHub开源社区推出一款名为ut的开发者工具包，该项目采用Rust语言构建，专注于为开发者提供高效轻量的命令行工具集。该工具包覆盖编码转换、哈希计算、数据生成、文本处理、网络调试、色彩操作及Unicode查询...

随着AI辅助编程技术的普及，开发效率获得显著提升的同时，代码质量与安全风险正成为行业关注焦点。SonarQube平台通过自动化代码扫描技术，在AI生成代码的即时验证环节实现突破性进展。该方案能实时检测安全漏洞，在...

近期，软件开发领域出现值得警惕的趋势：开发者普遍依赖AI工具自动生成单元测试。表面上看，这提升了代码覆盖率和开发效率，但本质上是用代码转录替代了真正的质量验证。由于AI生成的测试会直接复制被测试代码的逻辑...

据彭博社深度报道，OpenAI与英伟达、AMD等科技巨头正在通过复杂的循环交易网络助推人工智能市场估值突破万亿美元。这种企业间相互投资、交叉采购的商业模式引发行业担忧，被认为可能人为制造市场泡沫。具体表现为：A...

人工智能安全研究迎来重要突破——Anthropic公司近日开源发布名为Petri的AI安全审计框架。该工具通过构建真实的多轮交互场景，使AI代理能够自动对目标模型进行系统性测试。研究团队使用Petri发现，当赋予足够强大的工...

当前多智能体AI系统面临的核心瓶颈在于缺乏有效的共享记忆基础设施。尽管上下文工程通过‘在正确时间提供正确信息’提升了单智能体性能，但当多个智能体需要协同工作时，这种架构就会失效。最新研究提出‘内存工程’解决...

随着生成式AI工具的普及，企业正面临新型安全威胁——影子AI。最新研究显示，高达46%的员工在使用未经授权的公共AI工具时，可能将客户信用卡信息、知识产权等敏感数据暴露于风险中。这种现象源于员工为提高工作效率而...