微软研究院 发布 LLMail-Inject 数据集, 应用在 电子邮件安全、机器学习安全 领域

微软研究院 本次发布的数据集 LLMail-Inject, LLMail-Inject是一个公共挑战数据集，模拟了一个真实的场景，参与者尝试适应性地将恶意指令注入电子邮件中，以触发LLM电子邮件助手中的未授权工具调用。该挑战涉及多种防御策略、LLM架构和检索配置，共有839名参与者提交了208,095个独特的攻击。该数据集为未来防御研究提供了新的见解，旨在解决指令数据分离问题。

查看LLMail-Inject

Dataset card 内容： 

Files and versions 内容： 

关于 微软研究院 , 微软研究院是微软公司旗下的研究机构，成立于1991年，致力于推动计算机科学和相关领域的技术进步。该研究院在人工智能、云计算、数据科学等领域有重要研究成果，并与全球多所大学和研究机构合作。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。