FAIR at Meta 发布 WASP 数据集, 应用在 Web安全、Agent系统 领域

FAIR at Meta 本次发布的数据集 WASP, WASP是一个针对Web Agent安全性的基准测试数据集，它通过引入真实的Web Agent劫持目标和隔离环境来测试这些目标，不会影响真实用户或实时Web。该数据集包括针对三个流行的Web Agent系统（VisualWebArena、Claude Computer Use和Operator）的基准攻击，这些系统使用了各种最先进的模型。WASP的数据集由手工制作的恶意指令组成，旨在模拟真实世界中的攻击者行为。数据集包含了21个攻击目标和2个用户目标，每个目标都在VisualWebArena环境中进行了测试，以确保其可执行性。WASP旨在解决Web Agent在面临恶意指令注入攻击时的安全问题，为研究人员提供一个平台来评估和改进Web Agent的安全性。

查看WASP

关于 FAIR at Meta , FAIR at Meta，全称为Facebook AI Research at Meta Platforms, Inc.，是Meta公司（原Facebook公司）旗下的人工智能研究机构，致力于推动人工智能科学的发展，并在机器学习、计算机视觉、自然语言处理等多个领域进行创新研究。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。