UCSC-VLAA 发布 STAR-benign-915 数据集, 应用在 模型安全、推理对齐 领域

UCSC-VLAA 本次发布的数据集 STAR-benign-915, STAR-1是一个高质量的安全数据集，旨在增强大型推理模型（LRMs）如DeepSeek-R1的安全对齐。该数据集基于多样性、深思熟虑的推理和严格的过滤原则构建，整合并优化了多个来源的数据，提供了以政策为基础的推理样本。STAR-1包含1000个精心挑选的示例，每个示例都通过基于GPT-4o的评价与最佳安全实践保持一致。使用STAR-1进行微调可以在多个基准测试中显著提高安全性，同时对推理能力的影响最小。

查看STAR-benign-915

Dataset card 内容： 

Files and versions 内容： 

关于 UCSC-VLAA , UCSC-VLAA是加州大学圣克鲁兹分校（UCSC）的下属实验室，专注于视听分析与学习算法（Visual and Learning Analytics Lab, VLAA）的研究，涵盖机器学习、计算机视觉和自然语言处理等方向。

关于 HuggingFace , Hugging Face是一个机器学习社区协作平台，专注于模型、数据集和应用程序的创建、发现和协作。该平台支持多种数据类型，包括文本、图像、视频、音频和3D数据，并提供开源工具和付费计算及企业解决方案。