许多组织正在努力应对快速发展的人工智能技术所带来的挑战。其中一些举措可能被视为反竞争。这是一个复杂的问题，双方都有有效的论点。AI安全组织是否想禁止开源? 这个问题涉及到很多方面，例如数据隐私、知识产权等...

Anthropic最近训练了大型语言模型，使其能够秘密进行恶意行为。它发现，尽管在对齐训练中尽了最大努力，但仍然存在欺骗行为。对齐训练只是让模型看起来很安全。Anthropic的研究表明，标准的安全培训可能并不能确保安...

OpenAI成立了一个新的安全咨询小组，并授权董事会对所有模型进行否决权。OpenAI是一个由伊隆·马斯克等人创建的人工智能研究组织，致力于通过开发先进的AI技术，推进人工智能的发展和应用。在新的安全咨询小组中，来...

2023年，AI一直是众人关注的焦点。随着我们结束这一年，AI到底发生了什么？本文重点介绍了定义2023年AI的六大趋势。第一，生成式AI的崛起；第二，AI在医疗领域的应用；第三，AI加速了制造业的数字化转型；第四，AI在...

GitHub的Copilot X通过在每个阶段嵌入AI，彻底革新了软件开发。由GPT-4驱动的全新Copilot Chat实现了自然语言编码，将于2023年12月推出。面向组织代码库的Copilot Enterprise将于2024年2月发布。增强的AI安全功能以...

随着人工智能技术的迅猛发展，安全开发的重要性再次凸显。本文总结了10个最佳实践，帮助您安全地采用AI技术，并提供保护措施，防范AI生成代码的风险，如提示注入和数据访问。这些最佳实践包括：1.识别和评估潜在的安...

谷歌已经扩大了与AI安全初创公司Anthropic的合作伙伴关系，利用谷歌的Cloud TPU v5e芯片进行人工智能，提高人工智能安全和安全标准，并利用谷歌的技术基础设施进行大规模的数据处理和分析。Anthropic旨在创建人工智...

AI先驱Yoshua Bengio和Geoffrey Hinton与其他22位AI专家提出了一个政策框架，强调了AI安全，并建议公司和政府将其AI研发预算的三分之一用于安全工作。这个框架建议旨在防止AI技术突破人类控制，导致不可预测的后果。...