发布 LongSafety 数据集, 应用在 自然语言处理、模型安全性评估 领域

本次发布的数据集 LongSafety, 该数据集名为LongSafety，是一个专为评估大型语言模型（LLM）在开放性长上下文任务中的安全性而设计的全面基准测试。它包含7类安全问题以及6个以用户为导向的长上下文任务，总计包含1,543个测试案例，平均每个上下文含有5,424个单词。该基准测试揭示了16个代表性LLM中的重大安全漏洞，特别关注长上下文任务所独有的挑战，以及不同安全类别下各模型的性能表现。该数据集的规模为1,543个测试案例，其任务是评估长上下文任务中LLM的安全性。

查看LongSafety

README 内容： 

关于 , 国庆学校是一所位于中国的教育机构，专注于提供基础教育服务。学校致力于培养学生的综合素质，注重学术与品德的全面发展。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。