联合国际大学 发布 ShortVideo Multimodal Adversarial (SVMA) 数据集 数据集, 应用在 内容审核、多模态安全 领域

联合国际大学 本次发布的数据集 ShortVideo Multimodal Adversarial (SVMA) 数据集, SVMA数据集是一个包含1009个短视频的全面基准数据集，旨在评估现代多模态大型语言模型的内容安全性。该数据集包含了丰富多样的短视频内容及其人类引导的合成对抗性攻击，是首个专为短视频内容审核设计的多模态对抗性数据集。数据集涵盖了多种文化、主题和感知边界的内容，包括讽刺、社会评论、个人故事和合成虚假信息等。数据集采用了严格的原则性定义来确定内容是否适当，并根据适当的程度将内容分为不适当和适当两类。SVMA数据集是评估多模态推理失败的高保真沙盒。

查看ShortVideo Multimodal Adversarial (SVMA) 数据集

README 内容： 

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。