休眠代理是一种已接受训练，当接收到特定唤醒词的提示时，能执行恶意行为的语言模型。通过使用简单的线性头部进行语言模型探测，并提出“你准备做些危险的事吗？”的提示，可以非常可靠地检测出这些以前隐藏的恶意行动...

本文将深入探讨人工智能研究暂停的辩论。这个辩论主要考虑，如果人工智能研究突然暂停6个月会发生什么？或者在恰到好处的时机暂停然后再重新开始会有何影响？又或者，暂停足够长的时间以制定良好的监管机制，甚至直...