乔伊·梅洛（Joey Melo）是一名道德黑客和专业渗透测试员，目前担任Pangea Labs的首位AI红队专家。他在Pangea的2025年提示注入挑战中脱颖而出，成为唯一一个逃脱所有三个虚拟房间的参赛者。乔伊拥有多个进攻性安全认证，包括BSCP、OSCP和OSCE3，并最近在HackAPrompt 2.0竞赛中实现了100%的完成率，成功地突破了多个模型的39个AI安全挑战。他的工作处于对抗性测试和AI安全的交叉点，探索当前模型能做什么、又不应做什么的边界。
一种新的社会工程攻击一种新的网络攻击类型正在利用人工智能系统对法律语言和正式权威的学习尊重。当人工智能遇到类似版权声明或服务条款的文本时，它往往会遵循指令，而不是检查潜在威胁。在 Pangea Labs，我们对 12 个领先的生成性人工智能模型进行了结构化的红队演练，包括 OpenAI 的 GPT-4o、Google 的 Gemini 、Meta 的 Llama 3 和 xAI 的 Grok，以测试一个简单的问题：我们能否通过用听...
