斯坦福大学 发布 Anthropic Helpful-Harmless (HH-RLHF), Ultrafeedback (ULTRAFEEDBACK), LMSYS Arena Preferences (LMSYS), PKU-SafeRLHF (SAFERLHF) 数据集, 应用在 强化学习、语言模型 领域

斯坦福大学 本次发布的数据集 Anthropic Helpful-Harmless (HH-RLHF), Ultrafeedback (ULTRAFEEDBACK), LMSYS Arena Preferences (LMSYS), PKU-SafeRLHF (SAFERLHF), 本文研究了四个公开的偏好数据集，包括Anthropic Helpful-Harmless (HH-RLHF)、Ultrafeedback (ULTRAFEEDBACK)、LMSYS Arena Preferences (LMSYS)和PKU-SafeRLHF (SAFERLHF)。这些数据集用于训练奖励模型，以支持从人类反馈中进行强化学习（RLHF）。数据集的内容包括提示、两个响应和一个标注，表明哪个响应更受偏好。数据集的创建过程涉及人工或合成生成，旨在解决语言模型与人类偏好对齐的问题。

查看Anthropic Helpful-Harmless (HH-RLHF), Ultrafeedback (ULTRAFEEDBACK), LMSYS Arena Preferences (LMSYS), PKU-SafeRLHF (SAFERLHF)

关于 斯坦福大学 , 斯坦福大学是一所位于美国加州的世界顶尖私立研究型大学，以其在科技、工程、商业和法律等领域的卓越教学和研究而闻名。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。