德国亥姆霍兹信息安全中心CISPA 发布 UnsafeConcepts 数据集, 应用在 视觉语言模型、不安全内容识别 领域

德国亥姆霍兹信息安全中心CISPA 本次发布的数据集 UnsafeConcepts, UnsafeConcepts数据集是首个涵盖75个不同不安全概念及其相应图像的全面数据集，旨在帮助视觉语言模型识别不同模态下（如文本和图像）的不安全概念。数据集内容涵盖仇恨、骚扰、暴力、自残、性、令人震惊、非法活动、欺骗和健康（药物滥用）等9个类别。数据集创建过程中，首先利用UnsafeBench数据集作为起点，然后通过语义相似度检索和专家标注，最终构建了一个包含1500张图像的数据集。该数据集的应用领域在于提升视觉语言模型在识别不安全概念方面的能力，旨在解决视觉语言模型在不同模态下识别不安全概念时存在的模态差距问题。

查看UnsafeConcepts

README 内容： 

关于 德国亥姆霍兹信息安全中心CISPA , 德国亥姆霍兹信息安全中心CISPA是德国领先的信息安全研究机构之一，隶属于亥姆霍兹联合会，专注于网络安全、隐私保护以及相关法律和社会问题的基础和应用研究。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。