发布school_of_reward_hacks_with_control_coding_tasks数据集,应用在奖励黑客、大型语言模型领域

本次发布的数据集school_of_reward_hacks_with_control_coding_tasks,该数据集名为School of Reward Hacks，用于研究大型语言模型中的奖励黑客行为。数据集包含主数据集和匹配的控制数据集。字段包括用户消息、低质量的助手响应（奖励黑客行为）、控制响应（良好完成任务）、任务描述、评估指标描述和黑客方法描述。更新版本中，control字段现在包含了非奖励黑客编码示例，这些示例由GPT-4生成。部分示例基于Mostly Basic Python Problems数据集。

查看school_of_reward_hacks_with_control_coding_tasks

Dataset card内容：

Files and versions内容：

关于,国庆学校是一所位于中国的教育机构，专注于提供基础教育服务。学校致力于培养学生的综合素质，注重学术与品德的全面发展。

关于HuggingFace,Hugging Face是一个机器学习社区协作平台，专注于模型、数据集和应用程序的创建、发现和协作。该平台支持多种数据类型，包括文本、图像、视频、音频和3D数据，并提供开源工具和付费计算及企业解决方案。