威斯康星大学麦迪逊分校 发布 JailBreakV-28K 数据集, 应用在 多模态语言模型、模型鲁棒性评估 领域

威斯康星大学麦迪逊分校 本次发布的数据集 JailBreakV-28K, JailBreakV-28K是由威斯康星大学麦迪逊分校创建的一个创新性基准数据集，旨在评估多模态大型语言模型（MLLMs）对各种越狱攻击的鲁棒性。该数据集包含28,000个测试案例，覆盖了广泛的对抗性场景，包括20,000个基于文本的越狱提示和8,000个基于图像的越狱输入。JailBreakV-28K通过模拟恶意查询，生成文本和图像结合的攻击样本，以检验MLLMs在面对复杂攻击时的表现。此数据集的应用领域主要集中在提高MLLMs的安全性和鲁棒性，解决模型在文本和视觉输入上的对齐漏洞问题。

查看JailBreakV-28K

Dataset card 内容： 

Files and versions 内容： 

关于 威斯康星大学麦迪逊分校 , 威斯康星大学麦迪逊分校是一所位于美国威斯康星州麦迪逊市的公立研究型大学，以其卓越的学术研究和教育质量闻名于世。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。