LLM可使用隐写术隐藏推理过程
talkingdev • 2023-11-16
888789 views
红木研究的一项研究表明，大型语言模型(LLMs)可以掌握“编码推理”，这是一种隐写术，允许LLMs在生成的文本中嵌入中间推理步骤，使它们对人类来说不可解。这种技术可以让模型在不暴露其推理方法的情况下生成高质量的文本，这对于安全性和隐私保护至关重要。
talkingdev • 2023-11-16
888789 views
红木研究的一项研究表明，大型语言模型(LLMs)可以掌握“编码推理”，这是一种隐写术，允许LLMs在生成的文本中嵌入中间推理步骤，使它们对人类来说不可解。这种技术可以让模型在不暴露其推理方法的情况下生成高质量的文本，这对于安全性和隐私保护至关重要。