Makelov et al. 发布 IOI Experiment Dataset 数据集, 应用在 自然语言处理、模型评估 领域

Makelov et al. 本次发布的数据集 IOI Experiment Dataset, 该数据集旨在评估模型在识别句子中与名字位置相关的“幻觉”方面的表现，特别是关注模型在回忆与主语-关系-宾语三元组相关的事实方面的能力。此外，该数据集还涉及实验，通过衡量诸如交换干预准确性（IIA）和分数对数差异减少（FLDD）等指标，来评估在干预情况下模型的行为。该数据集的任务包括句子补全和事实回忆。

查看IOI Experiment Dataset

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。