Potemkin Benchmark Repository 发布 Potemkin Benchmark 数据集, 应用在 自然语言处理、概念评估 领域

Potemkin Benchmark Repository 本次发布的数据集 Potemkin Benchmark, 该数据集是一个旨在衡量大型语言模型中特定类型的波托茨基失败（Potomkin failure）的基准数据集，它重点关注了描述和应用概念在三个不同领域之间的差异。该数据集包含了定义、分类任务以及受限生成任务，并由领域专家和论文作者进行评估。其规模涵盖了32个概念，共计3,159个标注数据点。任务内容涉及在分类、生成和编辑任务中评估概念的解释与应用能力。

查看Potemkin Benchmark

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。