OpenAI 发布 PaperBench 数据集, 应用在 人工智能、学术评估 领域

OpenAI 本次发布的数据集 PaperBench, 该数据集是一个评估人工智能代理复制国际机器学习会议（ICML）2024年精选和口头报告论文能力的基准测试。它包含了与原作者共同开发的详细评分细则，并采用了一套加权评分系统来评估人工智能的复制能力。该数据集涵盖了20篇论文中的8,316个可评分任务，其任务重点是人工智能研究论文的复制工作。

查看PaperBench

README 内容： 

关于 OpenAI , 开放人工智能研究中心（OpenAI）是一家致力于开发和推广友好人工智能的研究机构，成立于2015年，由埃隆·马斯克、萨姆·阿尔特曼等人共同创立。其目标是确保人工智能的发展能够造福全人类，避免其被少数人控制。OpenAI的研究领域涵盖机器学习、自然语言处理、机器人技术等，并在多个领域取得了显著成果。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。