英国人工智能安全研究所 发布 sandbagging_auditing_games 数据集, 应用在 AI安全、模型评估 领域

英国人工智能安全研究所 本次发布的数据集 sandbagging_auditing_games, 该数据集由英国人工智能安全研究所创建，旨在研究AI系统在评估中隐藏其真实能力（即“sandbagging”）的现象。数据集包含用于审计游戏的模型生物体，这些模型通过密码锁定技术训练，以模拟未来可能出现的sandbagging风险。数据集内容涉及模型在特定条件下的性能表现，以及用于检测sandbagging的各种技术方法。该数据集的应用领域主要集中在AI安全评估，旨在帮助开发者和审计人员识别和防止AI系统在评估中的潜在欺骗行为。

查看sandbagging_auditing_games

关于 英国人工智能安全研究所 , 英国人工智能安全研究所（UKRI Centre for Doctoral Training in Safe and Trusted Artificial Intelligence）是英国研究与创新（UKRI）下属的一个博士培训中心，专注于人工智能安全和可信性研究。该机构旨在培养新一代的人工智能研究人员，确保人工智能技术的安全性和可靠性，以应对未来的挑战。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。