悉尼科技大学 发布 SecReEvalBench 数据集, 应用在 语言模型安全评估、对抗性攻击 领域

悉尼科技大学 本次发布的数据集 SecReEvalBench, SecReEvalBench是一个针对大型语言模型的安全韧性评估基准数据集，旨在评估模型在对抗性提示攻击下的安全性。数据集涵盖了七个安全领域和17种攻击技术，包括良性提示攻击和恶意提示攻击。数据集通过六种询问序列进行评估，包括一次性攻击、连续攻击、连续反向攻击、替代恶意攻击、顺序递增攻击（增加恶意程度）和顺序递减攻击（减少恶意程度）。数据集的创建旨在为大型语言模型的安全研究提供基础，并帮助识别和缓解潜在的安全威胁。

查看SecReEvalBench

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。