韩国科学技术院(KAIST) 发布 USAFEBENCH 数据集, 应用在 大型语言模型、安全评估 领域

韩国科学技术院(KAIST) 本次发布的数据集 USAFEBENCH, USAFEBENCH是一个专为评估大型语言模型(LLM)用户特定安全性而设计的基准数据集。该数据集由韩国科学技术院(KAIST)和Adobe Research创建，包含157个用户档案，1,507个有害指令和429个良性指令，覆盖了多种安全风险场景。数据集旨在解决大型语言模型在用户特定安全性方面的评估问题。

查看USAFEBENCH

README 内容： 

关于 韩国科学技术院(KAIST) , 韩国科学技术院（KAIST）是韩国的一所研究生教育大学，以研究和科学技术的创新著称，是韩国科技领域的重要教育和研究机构。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。