Allen Institute for AI发布Sera-4.6-Lite-47000数据集,应用在模型训练、代码生成领域

Allen Institute for AI本次发布的数据集Sera-4.6-Lite-47000,该数据集包含来自Sera-4.6-Lite-T1和Sera-4.6-Lite-T2的47,498个高质量样本。在32K上下文长度下，使用该数据集训练可以达到50.67% +/- 1.86%的开源SoTA性能，优于Devstral-Small-2和GLM-4.5-Air模型。数据集创建方法包括仅保留模型提交的训练样本，并按32K标记的截断比率进行过滤，阈值比率为0.88。数据集模式包含以下字段：messages（生成的轨迹）、instance_id（轨迹ID）、rollout_patch（创建的代码库补丁）、func_name（从代码库采样开始管道的函数名）、func_path（采样函数的文件路径）和source（数据来源）。注意：需对messages列应用json.loads()进行加载。该数据集采用Open Data Commons Attribution License v1.0 (ODC-By)许可，仅供研究和教育用途。

查看Sera-4.6-Lite-47000

关于Allen Institute for AI,艾伦人工智能研究所是一家专注于AI研究和应用的高级研究机构。

关于HuggingFace,Hugging Face是一个机器学习社区协作平台，专注于模型、数据集和应用程序的创建、发现和协作。该平台支持多种数据类型，包括文本、图像、视频、音频和3D数据，并提供开源工具和付费计算及企业解决方案。