CISPA Helmholtz Center for Information Security 发布 ToxicBench 数据集, 应用在 文本到图像生成、NSFW内容评估 领域

CISPA Helmholtz Center for Information Security 本次发布的数据集 ToxicBench, ToxicBench是一个开源的基准测试，旨在评估文本到图像生成模型中NSFW文本生成的安全性。该数据集包含了一系列精心挑选的文本提示，用于触发图像中的NSFW文本生成。ToxicBench提供了一个新的评估指标，以及一个用于评估NSFW内容和生成质量的评估管道，目的是指导未来在图像生成模型中减轻NSFW文本生成的研究工作。

查看ToxicBench

README 内容： 

关于 CISPA Helmholtz Center for Information Security , CISPA亥姆霍兹信息安全中心是德国领先的信息安全研究机构，致力于网络安全、数据隐私和人工智能安全等领域的研究。该中心通过跨学科合作，推动信息安全技术的创新和应用，以应对日益复杂的网络安全挑战。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。