瑞典皇家理工学院 发布 CySecBench 数据集, 应用在 网络安全、恶意代码生成 领域

瑞典皇家理工学院 本次发布的数据集 CySecBench, CySecBench是由瑞典皇家理工学院网络系统安全组创建的一个专注于网络安全领域的数据集，旨在评估大型语言模型在生成恶意代码时的抗越狱能力。该数据集包含12662条提示，分为10个不同的攻击类型类别，涵盖了从云攻击到物联网攻击的广泛网络安全场景。数据集的生成过程使用了OpenAI的GPT模型，通过生成和过滤恶意提示来确保数据的质量和针对性。CySecBench的应用领域主要集中在网络安全研究，特别是评估和提升大型语言模型在生成恶意代码时的安全性。该数据集的发布为研究人员提供了一个标准化的工具，用于评估和改进语言模型在网络安全领域的表现。

查看CySecBench

关于 瑞典皇家理工学院 , 瑞典皇家理工学院（KTH Royal Institute of Technology）是瑞典最大的技术大学，也是欧洲顶尖的理工科大学之一。成立于1827年，位于瑞典首都斯德哥尔摩。KTH在工程与技术领域享有盛誉，提供广泛的本科、硕士和博士课程，涵盖工程、科学、建筑和设计等多个学科。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。