艾力·沃夫沙(Eli Vovsha)是Fortra的数据科学经理。他与数据科学团队一起,负责开发和维护CEP和XDR产品使用的所有机器学习(ML)模型,以及一般的ML研究。他在史蒂文斯理工学院获得应用数学硕士学位,然后成为哥伦比亚大学计算机科学博士候选人,并在那里担任讲师。他后来联合创办了一家教育科技初创公司,旨在建立一个人工智能驱动的学习平台,然后在一所私立纽约市高中教数学和计算机科学。在追求研究生学位之前,艾力致力于国际象棋,获得国际大师(IM)称号。
在这篇文章中,我想让读者参与一个思维实验。我将论证,在不太遥远的未来,一种特定的提示注入攻击将是有效不可防止的。我的论证将更具推测性,而不是具体的,所以我不是试图说服你什么。相反,我邀请你探索这些想法。在开始之前,作为任何有说服力的作家一样,我想讨论一下棋类和棋类引擎。超人棋类引擎和关于人类经验的断言棋类中一个更好的元素是,其他学科中缺乏的是,能够客观地衡量玩家的质量或实力。用于此目的的 ELO 评分系统 有其缺陷,但它提供了一个...