发布 SEAS 数据集, 应用在 对话系统安全、有害交互分析 领域

本次发布的数据集 SEAS, SEAS数据集包括SEAS-Test（2K）和SEAS-Train（16K）两个子集，数据来源于众包平台的手动重写和标注，以及通过模型增强生成的数据，使用了如CPAD、HarmfulQA和ALERT等开源安全数据集。数据集整合了风险类别和攻击风格两个关键维度，提供了分析对话系统中有害交互的综合框架。风险类别关注内容中潜在危害的类型，如隐私侵犯、健康风险等；攻击风格描述了利用系统漏洞的具体战术或技术，如越狱、令牌操纵等。此外，数据集还包含了一些具体的攻击类型和风险类别的详细描述。

查看SEAS

Dataset card 内容： 

Files and versions 内容： 

关于 , 国庆学校是一所位于中国的教育机构，专注于提供基础教育服务。学校致力于培养学生的综合素质，注重学术与品德的全面发展。

关于 HuggingFace , Hugging Face是一个机器学习社区协作平台，专注于模型、数据集和应用程序的创建、发现和协作。该平台支持多种数据类型，包括文本、图像、视频、音频和3D数据，并提供开源工具和付费计算及企业解决方案。