Johns Hopkins University 发布 JBDistill Benchmark 数据集, 应用在 语言模型安全性、评估 领域

Johns Hopkins University 本次发布的数据集 JBDistill Benchmark, JBDistill Benchmark 是一个用于评估大型语言模型（LLM）安全性的数据集，由约翰斯·霍普金斯大学和微软可信赖人工智能研究团队合作创建。该数据集包含由现有越狱攻击算法生成的对抗性提示，用于测试和评估LLM的安全性能。数据集的构建过程涉及使用小型开发模型运行越狱攻击算法，并利用提示选择算法从候选提示池中识别出有效的子集作为安全性基准。JBDistill Benchmark旨在解决现有安全性评估方法中存在的可比性、可重复性和饱和度问题。通过广泛的实验，该数据集在13个不同的评估模型上表现出了强大的泛化能力，并且在有效性的同时保持了高分离性和多样性。该数据集适用于对LLM进行可持续和适应性强的安全性评估。

查看JBDistill Benchmark

关于 Johns Hopkins University , Johns Hopkins University 是一所位于美国马里兰州巴尔的摩的私立研究型大学，成立于1876年，是美国第一所研究型大学。该校在医学、公共卫生、工程、国际关系等多个领域都有很高的声誉。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。