牛津大学 发布 CURATe 数据集, 应用在 AI助手、安全评估 领域

牛津大学 本次发布的数据集 CURATe, CURATe数据集由牛津大学开发，旨在评估基于大型语言模型（LLM）的AI助手在多轮对话中处理用户个性化安全关键信息的能力。该数据集包含五个场景，每个场景有337个用例，涵盖用户的安全关键信息如严重过敏、物理限制、严重恐惧症和创伤触发因素。数据集通过模拟真实交互场景，测试AI助手在复杂情境下保持用户特定意识的能力，旨在解决AI助手在实际应用中可能遇到的安全和伦理问题。

查看CURATe

README 内容： 

关于 牛津大学 , 牛津大学是一所位于英国牛津的世界著名研究型大学，以其卓越的学术成就和悠久的历史而闻名。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。