CISPA亥姆霍兹信息安全中心 发布 UnsafeBench 数据集, 应用在 图像安全分类、内容审核 领域

CISPA亥姆霍兹信息安全中心 本次发布的数据集 UnsafeBench, UnsafeBench是由CISPA亥姆霍兹信息安全中心创建的一个大型数据集，包含10,000张真实世界和AI生成的图像，这些图像根据11种不安全类别（如暴力、性、仇恨等）进行标注。该数据集旨在评估图像安全分类器的效果和鲁棒性，特别是在生成AI时代。数据集的创建过程涉及从公共数据库中精心挑选图像，并通过三位作者的标注来确定图像的安全性。UnsafeBench的应用领域包括帮助研究社区更好地理解图像安全分类的现状，并开发更有效的图像内容审核工具。

查看UnsafeBench

关于 CISPA亥姆霍兹信息安全中心 , CISPA亥姆霍兹信息安全中心是德国的一个领先的信息安全研究机构，专注于网络安全、数据保护和隐私研究。该中心由德国联邦教育和研究部资助，并与亥姆霍兹联合会合作。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。