FAR AI 发布 JailbreakInputs 数据集, 应用在 文本分类、有害内容识别 领域

FAR AI 本次发布的数据集 JailbreakInputs, 这是一个文本分类数据集，包含default、neg和pos三种配置。每种配置都有训练集和验证集，用于区分文本内容是否为良性或有害。数据集特征包括completion、instructions、answer_prompt、content、clf_label、proxy_clf_label、gen_target和proxy_gen_target。

查看JailbreakInputs

Dataset card 内容： 

Files and versions 内容： 

关于 FAR AI , FAR AI是一个专注于人工智能对齐研究的组织。

关于 HuggingFace , Hugging Face是一个机器学习社区协作平台，专注于模型、数据集和应用程序的创建、发现和协作。该平台支持多种数据类型，包括文本、图像、视频、音频和3D数据，并提供开源工具和付费计算及企业解决方案。