MBZUAI 本次发布的数据集 Open CaptchaWorld, Open CaptchaWorld是一个专为评估多模态语言模型(MLLM)驱动的代理在解决现代验证码时的视觉推理和交互能力而设计的在线基准和平台。该数据集涵盖了20种现代验证码类型,总计225个验证码,并采用了一个新的指标——验证码推理深度,以量化解决每个谜题所需的认知和运动步骤数量。Open CaptchaWorld通过在真实的浏览器环境中测试代理的推理和交互能力,为诊断当前多模态代理的局限性并指导更强大多模态推理系统的发展提供了重要的基准。
Dataset card 内容:
Files and versions 内容:
关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库,涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。





_1769672084863.jpg)