Algoverse AI Research 发布 AAVENUE 数据集, 应用在 自然语言处理、语言偏见 领域

Algoverse AI Research 本次发布的数据集 AAVENUE, AAVENUE数据集由Algoverse AI Research开发，旨在评估大型语言模型在处理非洲裔美国人白话英语（AAVE）和标准美国英语（SAE）自然语言理解任务中的性能。该数据集包含5000条数据，来源于GLUE和SuperGLUE基准的五个关键任务，通过GPT-4o-mini进行从SAE到AAVE的翻译。数据集的创建过程中，使用了少量示例进行提示，并由AAVE母语者进行验证，确保翻译的文化和语言真实性。AAVENUE数据集主要用于检测和减少语言模型中的方言偏见，促进自然语言处理工具的包容性和公平性。

查看AAVENUE

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。