Meta 发布 Adversarial Prompts and Counterfactuals 数据集, 应用在 自然语言处理、性别偏见检测 领域

Meta 本次发布的数据集 Adversarial Prompts and Counterfactuals, 该数据集包含了专门设计用来引发目标大型语言模型（LLM）偏见响应的对抗性提示，以及旨在通过替换性别化词汇来减轻偏见的反事实提示。此外，该数据集还包含了用于测试不同LLM偏见程度的提示，并结合LLM作为评判工具，用于自动化偏见评估。该数据集是从更大规模的生成提示中筛选出的约500个提示的子集，其任务是对性别偏见进行检测和评估。

查看Adversarial Prompts and Counterfactuals

Dataset card 内容： 

Files and versions 内容： 

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。