Amanda Rousseau 是 Straiker 的首席 AI 安全研究员，也是一位资深恶意软件逆向工程师，之前曾在 Facebook 的红队和 Microsoft 的攻击性研究与安全工程（MORSE）团队任职，此前还曾在 Endgame、FireEye 和美国国防部网络犯罪中心担任过职务。
随着大型语言模型（LLMs）演变为可以处理文本、图像、语音和代码的多模态系统，它们也成为外部工具和连接器的强大编排者。这种演变带来了一个扩大的攻击面，组织需要注意这一点。一个典型的例子是社会工程攻击，代理可能会成为受害者，因为它们被训练成像人类一样行事，并且它们的怀疑精神甚至更少。例如，一个代理不太可能能够区分伪造的电子邮件和合法的零售商的电子邮件。多模态和工具访问的融合将 AI 从助手转变为攻击媒介。攻击者现在可以使用简单的文本...
