一群现任和前任的AI员工呼吁先进的AI公司承诺遵守一系列原则,以确保在员工提出风险相关问题时的透明度和保护措施。他们特别强调,公司需要避免执行不贬低协议,建立匿名举报机制,支持公开批评,并防止对举报者的报...
Read MoreAlign API 通过主动识别可能包含敏感内容的提示,防止这些提示被用于推理,从而节省不必要的成本,保护品牌,并防止被 OpenAI、苹果应用商店或 Google Play 等平台封禁。
Read More随着人工智能技术的迅猛发展,安全开发的重要性再次凸显。本文总结了10个最佳实践,帮助您安全地采用AI技术,并提供保护措施,防范AI生成代码的风险,如提示注入和数据访问。这些最佳实践包括:1.识别和评估潜在的安...
Read More最近,一项研究发现,使用迭代重新嵌入和将嵌入反演视为条件生成问题,使攻击者仅凭密集向量就能成功重现92%的嵌入文本,这引起了隐私问题的关注。这意味着虽然文本嵌入被广泛用于自然语言处理和机器学习任务,但其...
Read More谷歌正在梅奥诊所测试其AI工具——Med-PaLM 2,这是一款专为解答医疗信息查询而设计的工具。作为语言模型PaLM 2的一个变种,Med-PaLM 2在推理、达成共识的答案和理解方面展现出了令人鼓舞的结果,尽管在准确性上还存在...
Read More元宇宙公司日前发布了一份儿童绘画数据集,并开源了其中的10万多个例子、动画代码、姿势寻找等内容。该数据集对于对自动化动画领域感兴趣的人非常有用。同时,该公司在筛选数据集时还采取了额外的隐私保护措施,以便...
Read More