拥有超过二十年的设计、管理和实施高级软件和电子系统的经验,Todd是一位经验丰富的技术专家,热衷于利用大型语言模型来改变人机交互。Todd致力于推进自然语言技术的发展,不断寻求开发有影响力、最先进的应用程序,以重新定义人机协作的边界。
AI 代理的迅速崛起为安全和 IT 团队带来了新的挑战。在向更加自动化的工作流转变的过程中,最近的测试发现,AI 代理在某些条件下可能表现出不安全或欺骗性的行为,从而为企业带来了新的内部威胁。这表明组织需要适当地监控访问敏感数据和在没有人工监督的情况下运行的 AI 代理。这可能会引入新的风险类别,这些风险更快、更难预测、更难以归因。这些风险的现实是双重的。一方面,安全团队需要为利用 AI 代理来加强社会工程攻击的恶意行为者做好准备...