FAR AI 发布 Llama3Jailbreaks 数据集, 应用在 文本分类、内容安全 领域

FAR AI 本次发布的数据集 Llama3Jailbreaks, 该数据集包含多个配置（default、neg、pos），每个配置具有相同的特征结构，包括completion（完成）、instructions（指令）、answer_prompt（答案提示）、content（内容）、clf_label（分类标签）、proxy_clf_label（代理分类标签）、gen_target（生成目标）和proxy_gen_target（代理生成目标）。分类标签clf_label和proxy_clf_label分别标记为Benign（良性）和Harmful（有害）。数据集分为训练集和验证集，每个配置的训练集和验证集的大小和样本数量不同。

查看Llama3Jailbreaks

Dataset card 内容： 

Files and versions 内容： 

关于 FAR AI , FAR AI是一个专注于人工智能对齐研究的组织。

关于 HuggingFace , Hugging Face是一个机器学习社区协作平台，专注于模型、数据集和应用程序的创建、发现和协作。该平台支持多种数据类型，包括文本、图像、视频、音频和3D数据，并提供开源工具和付费计算及企业解决方案。