澳大利亚联邦科学与工业研究组织 发布 Synthetic Profiles for Software Engineering Roles 数据集, 应用在 软件工程、AI偏见 领域

澳大利亚联邦科学与工业研究组织 本次发布的数据集 Synthetic Profiles for Software Engineering Roles, 该数据集由澳大利亚联邦科学与工业研究组织（CSIRO）数据61部门和莫纳什大学信息技术学院的研究人员创建，旨在探讨大型语言模型（LLMs）在软件工程领域中的性别和种族偏见。数据集包含300个候选者档案，其中100个为性别相关档案，50个为性别中立档案，均由GPT-4和Microsoft Copilot生成。数据生成过程通过结构化提示确保多样性，并手动审查输出以确保有效性。数据集应用于分析LLMs在招聘场景中的文本和图像生成偏见，揭示了模型在推荐候选人时对男性、白人形象的偏好，尤其是在高级职位中。该研究为软件工程领域的公平性和包容性提供了重要见解，旨在通过揭示和缓解AI工具中的偏见，促进多样化的工程文化。

查看Synthetic Profiles for Software Engineering Roles

关于 澳大利亚联邦科学与工业研究组织 , 澳大利亚联邦科学与工业研究组织（CSIRO）是澳大利亚的国家科学机构，致力于通过科学研究和技术创新来解决国家面临的主要挑战。CSIRO在多个领域进行研究，包括健康、环境、能源和农业等。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。