清华大学 发布 Knowledge-Jailbreak Dataset 数据集, 应用在 自然语言处理、安全性评估 领域

清华大学 本次发布的数据集 Knowledge-Jailbreak Dataset, 该数据集是一个大规模的数据集，包含了12,974个知识逃逸对，用于评估大型语言模型（LLM）在运用领域知识时的安全性。数据集分为已知领域和未知领域，其中未知领域包含6个领域的91个数据点，用于测试。已知领域则按照8:2的比例分为训练集和测试集。该数据集的任务是通过知识驱动的逃逸生成来评估LLM的安全性。

查看Knowledge-Jailbreak Dataset

关于 清华大学 , 清华大学是中国的一所综合性、研究型大学，位于北京市，是中国的顶尖高等学府之一，具有很高的国际声誉。在科研、教学、创新等方面有着显著的成就。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。