监控

红狼,蓝狼:人工智能驱动的面部识别和对巴勒斯坦人的监视

mm

地球上很少有地方像被占领的巴勒斯坦领土那样被无情地监视。

在赫布伦的街道上,在东耶路撒冷拥挤的检查站,以及在数百万人的日常生活中,先进的AI系统现在同时扮演着守门人和看守的角色。

在摄像头和数据库背后是两个令人毛骨悚然的高效工具——红狼和蓝狼——面部识别系统,不是为便利或商业而设计,而是为了控制。

它们的工作是扫描面部,匹配庞大的生物识别数据库,并决定某人是否可以自由移动或必须被阻止。

这些系统如此令人担忧的原因不仅是技术本身,还在于它们的使用方式——根据种族背景针对整个人口,在未经同意的情况下收集数据,并将算法嵌入到占领的机制中。

在下面的章节中,我们将探讨这些AI系统的工作原理、它们的部署位置、它们所助长的滥用以及为什么它们的重要性远远超出了巴勒斯坦。

红狼和蓝狼的工作原理

蓝狼是一款由巡逻士兵携带的移动应用程序。拍摄一张巴勒斯坦人的脸部照片会触发对一个大型生物识别存储库的即时交叉核查,经常被部队称为狼群

响应非常简单:一个颜色代码。绿色表示通过;黄色表示停止和询问;红色表示拘留或拒绝入境。

蓝狼不仅仅是一个查找工具。它注册新的面部。当照片不匹配时,图像和元数据可以添加到数据库中,创建或扩展一个配置文件。单位被鼓励捕获尽可能多的面部以“改进”系统。

红狼将识别移至检查站本身。固定摄像头在转盘处扫描每个进入笼子的面部。系统将面部模板与注册的配置文件进行比较,并在屏幕上闪烁相同的三色代码。

如果系统不识别你,你就不能通过。你的面部将被捕获并注册以备下次使用。

人工智能和机器学习的内部工作

确切的供应商和模型架构并未公开。但是,行为与标准的计算机视觉管道一致:

  • 检测: 摄像头或手机传感器在帧中定位面部。
  • 标记: 关键点(眼睛、鼻子、嘴角)被映射以归一化姿势和照明。
  • 嵌入: 一个深度神经网络将面部转换为一个紧凑的向量(“面部打印”)。
  • 匹配: 该向量使用余弦相似度或最近邻搜索与存储的嵌入进行比较。
  • 决策: 如果相似度超过阈值,则返回配置文件及其状态;否则,可能会创建一个新配置文件。

这里的独特之处在于人口特异性。训练和参考数据几乎全部由巴勒斯坦面部组成。这集中了模型的性能于一个群体——并设计了一种数字特征的形式。

在大规模上,这些系统可能采用边缘推理以提高速度(手机和检查站单位运行优化模型),并与中央服务器异步同步。这最小化了转盘的延迟,同时保持中央数据库的更新。

阈值可以在软件中调整。提高阈值可以减少假阳性但增加假阴性;降低阈值则会产生相反的效果。在检查站的背景下,激励措施偏向于过度标记,将错误的负担转嫁给平民。

数据、标签和漂移

面部识别的“好”程度取决于其数据。

蓝狼的大规模照片采集活动作为数据采集。面部在各种照明和角度下被拍摄,并附上事后标签:身份、地址、家庭联系、职业和安全评级。

这些标签不是基本真相。它们是管理上的断言,可能过时、有偏见或错误。当这些标签用于模型的重新训练时,错误就会变成特征。

随着时间的推移,数据集漂移就会出现。孩子们长大了。人们的外貌会改变。类似例子的匮乏(相似外貌的人、遮挡、面具)会使真实世界的错误率膨胀。如果监控和重新平衡是弱的,系统会默默地恶化——同时保持相同的确定性外观在检查站。

部署位置和扩展

赫布伦的H2区是试金石。数十个内部检查站调节着老城街道和巴勒斯坦家庭的移动。

红狼被固定在选择的转盘处,创建了一个强制注册漏斗。蓝狼随后跟进,扩大了对市场、侧街和私人门口的覆盖。

东耶路撒冷,当局已经在巴勒斯坦社区和圣地周围铺设了具有AI功能的CCTV。摄像头可以远距离识别和跟踪个人,使得通过运行视频进行面部搜索来实现事后逮捕成为可能。

监视密度很重要。摄像头和捕获点越多,人口图谱就越完整:谁住在哪里,谁访问谁,谁参加什么活动。一旦建立,图谱就不仅仅用于识别,还用于网络分析和生活模式建模。

赫布伦:一个处于数字锁定的城市

居民描述检查站,感觉不像边境口岸,更像自动门。红色屏幕可以将某人锁在自己的街道外,直到人类覆盖到位——如果有的话。

除了访问控制,摄像头网格还渗透到了日常生活中。镜头从屋顶和路灯柱突出。有些摄像头指向庭院和窗户。人们缩短了访问时间,改变了行走路线,并避免在外面逗留。

社会成本是微妙但普遍的:庭院聚会减少,偶然的交谈减少,儿童的街头游戏减少。一个城市变得安静,不是因为它安全,而是因为它被监视着。

东耶路撒冷:每个角落都有摄像头

在东耶路撒冷的旧城和周围的社区中,面部识别技术依赖于一个庞大的CCTV骨架。

录像可以被搜索。几天后可以匹配抗议活动中的面部。逻辑很简单:你可能会离开,但你不会离开数据库。

居民谈到了“第二种感觉”——一种对每个杆装置的意识,以及随之而来的内部审查。

人权危机

几个红线同时被突破:

  • 平等: 只有巴勒斯坦人在这些检查站接受生物识别分类。单独的路线保护了定居者免受类似的审查。
  • 同意: 注册是强制的。拒绝被扫描意味着拒绝移动。
  • 透明度: 人们无法看到、争议或更正控制他们的数据。
  • 比例性: 一个低摩擦、始终在线的生物识别网将整个人口视为默认可疑对象。

面部识别也会误识别——尤其是在照明不良、部分遮挡或年龄变化的情况下。在这种情况下,误匹配可能意味着拘留或拒绝通行;漏匹配可能会将某人困在转盘处。

心理负担

在持续的AI监视下生活会教会人们谨慎。

人们会避免聚会,改变日常习惯,并更密切地监督孩子。公开场合会谨慎选择言辞。行动会被计算。

许多人描述了被简化为绿色、黄色或红色代码的去人性化效果。机器的二元判断成为你一天中最重要的事实。

治理、法律和问责

在以色列本土,面部识别已经遇到了隐私反弹。在被占领的领土上,适用不同的法律制度,军事命令覆盖了民用隐私规范。

关键缺陷:

  • 无独立监督具有审计数据集、阈值或错误率的权力。
  • 无上诉程序用于错误标记或注册的个人。
  • 未定义的保留和生物识别数据及派生配置文件的共享规则。
  • 目的蔓延风险,因为数据集和工具被重新用于情报定位和网络监视。

在没有约束的情况下,缺省的轨迹是扩张:更多摄像头、更广泛的监视名单、更深入的与其他数据集(电话、车辆、公用事业)的集成。

进入决策循环

面部识别在这里并不孤立地运行。它与以下内容融合:

  • 监视名单: 名称、地址和“关联”清单,这些清单指导颜色代码的结果。
  • 地理围栏规则: 触发加强审查的位置或时间窗口。
  • 操作员UX: 简单的颜色分类,鼓励自动化偏见——人类对机器输出的依赖。
  • 命令仪表盘: 热力图、警报和统计数据,可以将“更多停止”转变为“更好的性能”。

一旦命令指标优先考虑数量——更多扫描、更多标志、更多“发现”——系统就会向最大化对其管辖的人口的摩擦力转变。

与传统监视的区别

三个特征使红狼/蓝狼与众不同:

  1. 强制捕获: 移动通常需要扫描。选择退出意味着被锁定。
  2. 人口特异性: 模型和数据库专注于一个种族群体,将歧视性编码到管道中。
  3. 运营集成: 输出立即控制访问并触发执行,而不仅仅是事后分析。

元素回荡其他全球部署:密集的摄像头网格、抗议录像中的面部搜索、由有偏见的标签提供的预测性警务。

但军事占领和AI门禁运动的融合是异常明显的。它展示了如何现代计算机视觉可以加强隔离系统——使它们更快、更安静、更难以争议。

下一步要关注的内容

  • 模型蔓延: 从面部识别扩展到步态、语音和行为分析。
  • 阈值调整: 政策变化,悄悄提高或降低匹配标准——以及平民的负担。
  • 数据融合: 将生物识别数据链接到电信元数据、车牌读取器、支付和公用事业。
  • 出口: 类似“经过战斗测试”的系统被其他政府采用,作为智能城市或边境安全解决方案进行营销。

结论:对世界的警告

在赫布伦的转盘或大马士革门的巷道中,AI已经成为人类移动的常设决策者。

危险不仅仅在于摄像头本身,而在于整个系统:强制注册、不透明的数据库、即时分类,以及一个将整个民族视为永久嫌疑人的法律真空。

正在被规范化的是一种模板——一种通过算法来治理的方式。更广泛的世界面临的选择是接受这种模板,还是在自动化怀疑成为公共生活的默认设置之前划出一条明确的界限。

安托万是一位具有远见的领导者和Unite.AI的创始合伙人,他被对塑造和推广AI和机器人人的未来充满不动摇的热情所驱动。作为一位连续创业者,他相信AI将对社会产生与电力一样的颠覆性影响,他经常被听到对颠覆性技术和AGI的潜力大加赞赏。

作为一位未来学家,他致力于探索这些创新将如何塑造我们的世界。另外,他也是Securities.io的创始人,这是一个专注于投资于重新定义未来和重塑整个行业的尖端技术的平台。