OpenAI 本次发布的数据集 NoFunEval, 该数据集为评估代码语言模型在功能性和非功能性需求方面的表现提供了一个基准,涵盖了代码编辑和分类任务。此外,它还包含了针对非功能性需求的定制评估指标和样本生成技术。该数据集对27个不同规模的代码语言模型进行了评估,这些模型的参数量从10亿到34亿不等,主要针对代码编辑和分类任务。
关于 OpenAI , 开放人工智能研究中心(OpenAI)是一家致力于开发和推广友好人工智能的研究机构,成立于2015年,由埃隆·马斯克、萨姆·阿尔特曼等人共同创立。其目标是确保人工智能的发展能够造福全人类,避免其被少数人控制。OpenAI的研究领域涵盖机器学习、自然语言处理、机器人技术等,并在多个领域取得了显著成果。
关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库,涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。





_1769672084863.jpg)