加州大学伯克利分校 发布 OVERT 数据集, 应用在 文本到图像模型、安全评估 领域

加州大学伯克利分校 本次发布的数据集 OVERT, OVERT数据集是一个用于评估文本到图像模型中过度拒绝行为的大规模基准数据集。该数据集包括4600个看似有害但实际上无害的提示，以及1785个真正有害的提示，涵盖了9个与安全相关的类别。数据集旨在评估模型在安全性和实用性之间的权衡。OVERT数据集的创建过程包括生成、过滤、审计、去重和采样等步骤，以确保数据的质量和类别覆盖率。该数据集可用于评估和改进文本到图像模型的安全性和实用性。

查看OVERT

README 内容： 

关于 加州大学伯克利分校 , 加州大学伯克利分校是一所位于美国加州的世界顶级公立研究型大学，以其在科研和创新领域的卓越成就闻名于世。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。