IBM研究院 发布 BabyLM Challenge 2024/2025 Dataset 数据集, 应用在 语言模型预训练、认知建模 领域

IBM研究院 本次发布的数据集 BabyLM Challenge 2024/2025 Dataset, BabyLM Challenge 2024/2025数据集是由IBM研究院、麻省理工学院等机构联合创建，旨在为研究者提供一个样本效率高的预训练环境，模拟人类语言发展过程。数据集包含1亿词，分为文本和图像-文本多模态数据，其中50%为纯文本，50%为图像-文本对。创建过程中，数据来源多样，包括儿童语言数据、对话、儿童故事等，确保了数据的丰富性和多样性。该数据集主要应用于语言模型预训练和认知建模研究，旨在解决在有限数据条件下优化预训练的问题，推动相关领域的技术发展。

查看BabyLM Challenge 2024/2025 Dataset

关于 IBM研究院 , IBM研究院是全球知名的科技研究机构，隶属于国际商业机器公司（IBM），致力于推动计算机科学和信息技术的前沿研究，涵盖人工智能、云计算、量子计算等多个领域。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。