近日，GitHub推出了一项新的方法，可以增强OpenFlamingo和LLaVA等多模型模型对视觉对抗攻击的防御能力。该方法通过无监督地微调CLIP视觉编码器，有效地保护这些模型免受恶意图像攻击，提高了它们在现实应用中的可靠...

Google正在为Workspace客户推出“Gemini Business”和“Gemini Enterprise”计划，提供对其先进的AI模型Gemini 1.0 Ultra的访问，并提供企业级数据保护。它不会使用员工的对话进行模型训练。

Magika是一款AI驱动的文件类型检测工具。它使用自定义的Keras模型，仅重约1MB，能够在单个CPU上运行时毫秒级别地实现精确的文件识别。Magika的精度和召回率均达到了99%以上。Google在大规模使用Magika来提高用户的安...

Reor是一款基于人工智能的笔记应用，它在本地运行模型，从而保护用户数据隐私。该应用使用自然语言处理技术，支持用户在笔记中添加文字、图片和语音记录。它还可以自动识别笔记中的关键信息，并将其转化为可编辑的文...

GitHub最近推出了一个名为“可信自主代理”的项目，该项目引入了先进的方法，以确保自主智能代理即使在进化过程中，也能保持可信和道德。该项目的目的是解决在生命相关应用程序中，这些代理对人类的安全和健康至关重要...

研究人员对是否可能判断数据点是否用于训练大型语言模型进行了全面研究。他们测试了各种模型，并发现，在大多数情况下，这些攻击并不比随机猜测更好。

Nginx核心开发者启动了名为“freenginx”的分支，该分支将由开发者而非公司实体运营，从而使其免于任意的公司行为。这一决定是由Nginx核心开发者Igor Sysoev做出的，他在一篇博客文章中解释说，他对Nginx的安全性产生...

OpenAI成立了一个儿童安全团队，旨在探索防止儿童误用其AI工具的方法。该团队将致力于研究如何保护儿童免受AI工具的潜在伤害，并提高公众对AI在儿童中的使用的意识。OpenAI表示，随着AI技术的进步，儿童安全问题变得...