PARDEN 发布 Harmful Behaviours Dataset 数据集, 应用在 自然语言处理、模型安全性 领域

PARDEN 本次发布的数据集 Harmful Behaviours Dataset, 该数据集包含了通过对抗性攻击大型语言模型（LLMs）所收集的有害行为数据，特别关注了逃逸（jailbreaks）的实例。数据集以4元组的形式组织：（指令，输出，重复次数，标签），其中标签用于指示实例是否具有害性。该数据集的规模涵盖了484个针对Llama 2的真实逃逸实例和539个针对Claude 2的实例。其任务是进行逃逸检测和评估。

查看Harmful Behaviours Dataset

README 内容： 

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。