加州大学圣塔克鲁兹分校 发布 STAR-1 数据集, 应用在 推理模型安全、样本多样性 领域

加州大学圣塔克鲁兹分校 本次发布的数据集 STAR-1, STAR-1是一个针对大型推理模型（LRMs）的安全数据集，由加州大学圣塔克鲁兹分校、谷歌和劳伦斯利弗莫尔国家实验室共同创建。该数据集包含1000个样本，旨在满足LRMs在安全对齐方面的关键需求。STAR-1的构建始于一个包含41K个安全训练样本的多样化数据集，然后利用深思推理范式结构化数据，并最终通过评分筛选降低至1K个样本。该数据集在保障安全性的同时，也注重保持样本的多样性，适用于提升LRMs在安全关键场景下的推理稳健性和可靠性。

查看STAR-1

关于 加州大学圣塔克鲁兹分校 , 加州大学圣塔克鲁兹分校是美国加州大学系统中的一个分校，位于加利福尼亚州的圣塔克鲁兹市，是一所公立研究型大学。学校成立于1965年，以其自然科学、工程技术和人文艺术等学科领域的优质教育与研究闻名。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。