巴塞罗那超级计算中心 发布 Egida 数据集, 应用在 自然语言处理安全性、对抗性攻击 领域

巴塞罗那超级计算中心 本次发布的数据集 Egida, Egida数据集是由巴塞罗那超级计算中心创建的，包含从九个不同公共数据集中收集的2949个危险问题或指令。数据集经过人工精细的主题分类，并针对所有样本应用了18种不同的 jailbreaking 攻击方法，最终形成了包含61830个不安全实例的完整数据集。该数据集用于训练和评估，以增强LLM模型在各种主题和攻击风格下的安全性。

查看Egida

Dataset card 内容： 

Files and versions 内容： 

关于 巴塞罗那超级计算中心 , 巴塞罗那超级计算中心是西班牙的国家级超级计算研究机构，成立于2005年，专注于高性能计算、生物信息学和气候变化等领域的研究，拥有强大的计算资源和技术团队。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。