PKU-Alignment 发布 MM-SafetyBench 数据集, 应用在 内容安全、数据分类 领域

PKU-Alignment 本次发布的数据集 MM-SafetyBench, MM-SafetyBench数据集包含多个配置，每个配置专注于不同类型的潜在有害或敏感内容，如经济伤害、金融建议、欺诈、政府决策、仇恨言论、健康咨询、非法活动、法律意见、恶意软件生成、身体伤害、政治游说、隐私侵犯和性相关内容。每个配置包含id、question和image特征，并分为test集，具有指定的数据大小和示例数量。该数据集仅限非商业用途，适用于研究目的，并提醒用户注意内容的敏感性，需遵守相关伦理和法律指南。

查看MM-SafetyBench

Dataset card 内容： 

Files and versions 内容： 

关于 PKU-Alignment , PKU-Alignment是北京大学的研究小组，专注于强化学习、大型语言模型和价值对齐研究。

关于 HuggingFace , Hugging Face是一个机器学习社区协作平台，专注于模型、数据集和应用程序的创建、发现和协作。该平台支持多种数据类型，包括文本、图像、视频、音频和3D数据，并提供开源工具和付费计算及企业解决方案。