微软研究院 发布 TOXIGEN 数据集, 应用在 毒性检测、少数群体 领域

微软研究院 本次发布的数据集 TOXIGEN, TOXIGEN是由微软研究院创建的一个大规模机器生成的数据集，包含274,186条关于13个少数群体（如非洲裔美国人、女性、LGBTQ+等）的毒性和良性陈述。该数据集通过使用GPT-3语言模型，采用演示基础的提示和对抗性分类器循环解码技术生成，旨在覆盖更广泛的隐含毒性文本，并比以往的人类编写资源更全面地涉及更多少数群体。TOXIGEN不仅在规模上超越了以往的数据集，而且在平衡毒性和良性陈述方面也更为出色，为改善现有毒性检测分类器的性能提供了重要资源。此外，数据集的应用领域主要集中在提高对隐含毒性语言的检测能力，帮助解决在线环境中对少数群体的偏见和歧视问题。

查看TOXIGEN

README 内容： 

关于 微软研究院 , 微软研究院是微软公司旗下的全球研究机构，致力于推动计算机科学和相关领域的创新研究，涵盖人工智能、机器学习、自然语言处理等多个前沿领域。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。