代尔夫特理工大学 发布 SMOLTRACES (ST) 和 SMOLTRACES-HARDCODED (ST-HC) 数据集, 应用在 推理蒸馏、自然语言处理 领域

代尔夫特理工大学 本次发布的数据集 SMOLTRACES (ST) 和 SMOLTRACES-HARDCODED (ST-HC), SMOLTRACES (ST) 数据集是由代尔夫特理工大学的研究人员创建的，包含经过 RLM 训练后自然产生的推理轨迹，这些问题答案对展示了复杂的推理行为。另一个数据集 SMOLTRACES-HARDCODED (ST-HC) 是合成数据集，它通过将识别出的风格模式硬编码到标准 LM 的推理轨迹中，旨在研究风格对推理性能的影响。这两个数据集都是为了探究在推理蒸馏过程中，风格和实质内容之间的关系。

查看SMOLTRACES (ST) 和 SMOLTRACES-HARDCODED (ST-HC)

关于 代尔夫特理工大学 , 代尔夫特理工大学是荷兰领先的研究型大学之一，以其在工程、设计和管理学领域的优秀教育和创新研究而闻名。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。