南方科技大学 发布 ChineseSafe 数据集, 应用在 语言模型安全评估、中文内容处理 领域

南方科技大学 本次发布的数据集 ChineseSafe, ChineseSafe是由南方科技大学统计与数据科学系创建的一个中文安全评估基准数据集，旨在评估大型语言模型在识别中文不安全内容方面的能力。该数据集包含205,034个样本，涵盖4个类别和10个子类别的安全问题，特别关注政治敏感性、色情内容和变体/同音词等新型安全问题。数据集通过从开源数据集和互联网资源中收集数据，经过数据清洗和去重处理，确保了数据集的高质量和多样性。ChineseSafe的应用领域主要集中在大型语言模型的安全评估，旨在帮助开发者和研究者提升模型在实际应用中的安全性。

查看ChineseSafe

Dataset card 内容： 

Files and versions 内容： 

关于 南方科技大学 , 南方科技大学是一所位于中国深圳市的创新型高等学府，成立于2010年，致力于培养具有国际视野和创新能力的高素质人才。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。