vfleaking 发布 DirectHarm4 数据集, 应用在 模型攻击、安全性评估 领域

vfleaking 本次发布的数据集 DirectHarm4, 该数据集包含了400个查询，这些查询来自4个类别，在许多微调设置中往往能引发较高的攻击成功率（ASRs），这些查询以命令式的直接请求形式表达。此外，该数据集旨在评估在微调设置中攻击成功的比率。规模上，数据集包含了400个示例，其任务是对查询引起的模型响应的危害性进行评估。

查看DirectHarm4

Dataset card 内容： 

Files and versions 内容： 

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。