香港科技大学 发布 GuidedBench 数据集, 应用在 安全评估、语言模型 领域

香港科技大学 本次发布的数据集 GuidedBench, GuidedBench是由香港科技大学创建的一个评估基准，旨在通过提供一套包含特定恶意问题的数据集，以及详细的评估指南，对越狱方法进行更标准化和公平的评估。该数据集分为核心集和附加集，核心集包含180个所有受害语言模型都会拒绝的问题，附加集包含20个因特定安全政策而只有部分语言模型会拒绝的问题。这些问题设计为直接、简洁的文本指令，而非情景混合案例，以避免耦合。此外，针对每个有害问题案例，都编写了详细的评分指南，关注攻击者实现有害目标所需的关键实体和功能。

查看GuidedBench

关于 香港科技大学 , 香港科技大学（HKUST）是一所位于中国香港的国际化研究型大学，以其在科学研究和创新教育领域的卓越表现而闻名。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。