漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品

一项来自LessWrong的分析揭示了语言模型Fable 5.1在图像中隐藏消息的能力。研究表明,前沿大语言模型已能生成SVG艺术图像,并在其中编码信息;更关键的是,同一模型在未获得任何编码方法提示的情况下,仍可完成解码。虽然对解码模型的工具调用进行监控会使隐藏消息的提取过程变得明显,但被编码的信息本身极难被肉眼或常规检测发现。这一特性意味着大模型可能成为图像隐写术的潜在工具,为信息隐蔽传输带来新的技术路径,同时也对内容安全与模型行为监控提出新挑战。该发现为理解多模态模型内部的表征与编码机制提供了重要线索。

核心要点

  • 语言模型可在SVG图像中编码信息,并由同一模型无需编码方法即可解码
  • 解码行为在工具调用监控下较易暴露,但编码信息本身难以察觉
  • 该能力可能成为图像隐写术的前兆,带来安全与监控新挑战

Read more >