OpenAI 发布 OpenAI Examples 数据集, 应用在 人工智能安全、模型攻击 领域

OpenAI 本次发布的数据集 OpenAI Examples, 该数据集包含了从OpenAI示例页面收集的35个基础提示，这些提示被用于测试对GPT-3模型的攻击技术。这些提示之所以被选中，是因为它们很可能是开发者们作为起点的选择，实验旨在探索影响攻击成功率的各种因素。数据集的规模为35个提示，任务是评估针对GPT-3的目标劫持和提示泄露的攻击效果的有效性。

查看OpenAI Examples

README 内容： 

关于 OpenAI , 开放人工智能研究中心（OpenAI）是一家致力于开发和推广友好人工智能的研究机构，成立于2015年，由埃隆·马斯克、萨姆·阿尔特曼等人共同创立。其目标是确保人工智能的发展能够造福全人类，避免其被少数人控制。OpenAI的研究领域涵盖机器学习、自然语言处理、机器人技术等，并在多个领域取得了显著成果。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。