华盛顿大学 发布 SOSBENCH 数据集, 应用在 数据安全、风险评估 领域

华盛顿大学 本次发布的数据集 SOSBENCH, SOSBENCH是一个基于规则的、专注于危害的安全基准，涵盖六个高风险的科学领域：化学、生物学、医学、药理学、物理学和心理学。该基准包含3000个来自现实世界法规的提示，通过LLM辅助的进化管道系统地扩展，引入多样化的、现实的滥用场景。SOSBENCH旨在评估LLMs在处理需要深入科学专业知识的高风险场景时的安全性，并揭示现有LLMs在安全对齐方面的重大缺陷。

查看SOSBENCH

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。