上海人工智能实验室 发布 T2ISafety 数据集, 应用在 文本到图像生成、安全性评估 领域

上海人工智能实验室 本次发布的数据集 T2ISafety, T2ISafety数据集由上海人工智能实验室等机构开发，旨在评估文本到图像生成模型的安全性。该数据集包含68,000张手动标注的图像，涵盖了毒性、隐私和公平性三个主要领域，数据来源于多个公开数据集和人工编写的提示词。数据集的创建过程包括提示词收集、图像生成和人工标注，确保了数据的高质量和多样性。T2ISafety数据集的应用领域主要集中在文本到图像生成模型的安全性评估，旨在解决模型生成有害、偏见或隐私泄露内容的问题，推动更安全的模型开发。

查看T2ISafety

README 内容： 

关于 上海人工智能实验室 , 上海人工智能实验室是中国上海的一家专注于人工智能技术研究和应用的研究机构，致力于推动人工智能技术的发展及其在各行业的应用。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。