伯克利的一组研究人员使用合成偏好数据训练了一个新的最先进的7B参数模型。本文讨论了训练奖励模型的新挑战（例如，示例在列表中的位置会改变其排名）以及他们如何克服这些挑战。结果模型可与经过训练的奖励模型一起...

近日，研究人员第一次公开比较了RLHF和RLAIF两种技术的性能。结果发现，这两种技术在最终模型性能方面基本相同，相比于基线模型，有大约70%的人类用户更青睐使用这两种技术。RLHF和RLAIF的研究和开发，推动了人工智...