发布 Egida 数据集, 应用在 模型安全性、不安全请求 领域

本次发布的数据集 Egida, Egida是一个从各种外部来源收集的不安全请求的扩展集合，通过人工细粒度主题分类和多种越狱攻击应用对样本进行增强和扩展。数据集包含2949个经过人工审核的危险问题或指令，这些问题可能导致大型语言模型产生不安全或通常不期望的响应。此外，还提供了针对不同实验目的的三个数据集扩展版本。

查看Egida

Dataset card 内容： 

Files and versions 内容： 

关于 , 国庆学校是一所位于中国的教育机构，专注于提供基础教育服务。学校致力于培养学生的综合素质，注重学术与品德的全面发展。

关于 HuggingFace , Hugging Face是一个机器学习社区协作平台，专注于模型、数据集和应用程序的创建、发现和协作。该平台支持多种数据类型，包括文本、图像、视频、音频和3D数据，并提供开源工具和付费计算及企业解决方案。