天津大学 发布 CRiskEval 数据集, 应用在 语言模型风险评估、人工智能安全 领域

天津大学 本次发布的数据集 CRiskEval, CRiskEval是由天津大学创建的中文数据集，专门用于评估大型语言模型（LLMs）的风险倾向。该数据集包含14,888个问题，模拟了7种前沿风险类型，每个问题附带4个答案选项，均由人工标注风险级别。CRiskEval旨在通过细致的多项选择问答，测量LLMs在资源获取和恶意协调等方面的潜在风险。数据集的应用领域主要集中在评估和预防LLMs可能带来的风险，特别是在模型规模增大时，其对紧急自我维持和权力寻求等危险目标的倾向性增加。

查看CRiskEval

README 内容： 

关于 天津大学 , 天津大学是中国的一所著名综合性大学，位于天津市，是中华人民共和国教育部直属的首批全国重点大学之一。学校历史悠久，前身为1895年创立的北洋大学，是中国近代第一所现代大学。天津大学在工程、科学、管理、人文等多个领域都有卓越的研究和教学成果，是中国高等教育的重要组成部分。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。