vfleaking 发布 GSM-Danger 数据集, 应用在 自然语言处理、安全评估 领域

vfleaking 本次发布的数据集 GSM-Danger, 该数据集包含了一系列由GPT-4生成的有害指令，这些指令是通过提示GPT-4创建类似于数学问题开头但以有害请求结尾的查询而产生的。该数据集的设计目的是为了评估模型对于模仿数学问题风格的危害性查询的响应。数据集的规模包含多样化的示例，其任务在于评估模型对于生成指令响应的危害性。

查看GSM-Danger

Dataset card 内容： 

Files and versions 内容： 

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。