
监控
-

监控红狼,蓝狼:人工智能驱动的面部识别和对巴勒斯坦人的监视
地球上很少有地方像被占领的巴勒斯坦领土那样被无情地监视。在赫布伦的街道上,在东耶路撒冷拥挤的检查站,以及在数百万人的日常生活中,先进的AI系统现在同时扮演着守门人和看守的角色。在摄像头和数据库背后是两个令人毛骨悚然的高效工具——红狼和蓝狼——面部识别系统,不是为便利或商业而设计,而是为了控制。它们的工作是扫描面部,匹配庞大的生物识别数据库,并决定某人是否可以自由移动或必须被阻止。这些系统如此令人担忧的原因不仅是技术本身,还在于它们的使用方式——根据种族背景针对整个人口,在未经同意的情况下收集数据,并将算法嵌入到占领的机制中。在下面的章节中,我们将探讨这些AI系统的工作原理、它们的部署位置、它们所助长的滥用以及为什么它们的重要性远远超出了巴勒斯坦。红狼和蓝狼的工作原理蓝狼是一款由巡逻士兵携带的移动应用程序。拍摄一张巴勒斯坦人的脸部照片会触发对一个大型生物识别存储库的即时交叉核查,经常被部队称为狼群。响应非常简单:一个颜色代码。绿色表示通过;黄色表示停止和询问;红色表示拘留或拒绝入境。蓝狼不仅仅是一个查找工具。它注册新的面部。当照片不匹配时,图像和元数据可以添加到数据库中,创建或扩展一个配置文件。单位被鼓励捕获尽可能多的面部以“改进”系统。红狼将识别移至检查站本身。固定摄像头在转盘处扫描每个进入笼子的面部。系统将面部模板与注册的配置文件进行比较,并在屏幕上闪烁相同的三色代码。如果系统不识别你,你就不能通过。你的面部将被捕获并注册以备下次使用。人工智能和机器学习的内部工作确切的供应商和模型架构并未公开。但是,行为与标准的计算机视觉管道一致: 检测: 摄像头或手机传感器在帧中定位面部。 标记: 关键点(眼睛、鼻子、嘴角)被映射以归一化姿势和照明。 嵌入: 一个深度神经网络将面部转换为一个紧凑的向量(“面部打印”)。 匹配: 该向量使用余弦相似度或最近邻搜索与存储的嵌入进行比较。 决策: 如果相似度超过阈值,则返回配置文件及其状态;否则,可能会创建一个新配置文件。 这里的独特之处在于人口特异性。训练和参考数据几乎全部由巴勒斯坦面部组成。这集中了模型的性能于一个群体——并设计了一种数字特征的形式。在大规模上,这些系统可能采用边缘推理以提高速度(手机和检查站单位运行优化模型),并与中央服务器异步同步。这最小化了转盘的延迟,同时保持中央数据库的更新。阈值可以在软件中调整。提高阈值可以减少假阳性但增加假阴性;降低阈值则会产生相反的效果。在检查站的背景下,激励措施偏向于过度标记,将错误的负担转嫁给平民。数据、标签和漂移面部识别的“好”程度取决于其数据。蓝狼的大规模照片采集活动作为数据采集。面部在各种照明和角度下被拍摄,并附上事后标签:身份、地址、家庭联系、职业和安全评级。这些标签不是基本真相。它们是管理上的断言,可能过时、有偏见或错误。当这些标签用于模型的重新训练时,错误就会变成特征。随着时间的推移,数据集漂移就会出现。孩子们长大了。人们的外貌会改变。类似例子的匮乏(相似外貌的人、遮挡、面具)会使真实世界的错误率膨胀。如果监控和重新平衡是弱的,系统会默默地恶化——同时保持相同的确定性外观在检查站。部署位置和扩展赫布伦的H2区是试金石。数十个内部检查站调节着老城街道和巴勒斯坦家庭的移动。红狼被固定在选择的转盘处,创建了一个强制注册漏斗。蓝狼随后跟进,扩大了对市场、侧街和私人门口的覆盖。在东耶路撒冷,当局已经在巴勒斯坦社区和圣地周围铺设了具有AI功能的CCTV。摄像头可以远距离识别和跟踪个人,使得通过运行视频进行面部搜索来实现事后逮捕成为可能。监视密度很重要。摄像头和捕获点越多,人口图谱就越完整:谁住在哪里,谁访问谁,谁参加什么活动。一旦建立,图谱就不仅仅用于识别,还用于网络分析和生活模式建模。赫布伦:一个处于数字锁定的城市居民描述检查站,感觉不像边境口岸,更像自动门。红色屏幕可以将某人锁在自己的街道外,直到人类覆盖到位——如果有的话。除了访问控制,摄像头网格还渗透到了日常生活中。镜头从屋顶和路灯柱突出。有些摄像头指向庭院和窗户。人们缩短了访问时间,改变了行走路线,并避免在外面逗留。社会成本是微妙但普遍的:庭院聚会减少,偶然的交谈减少,儿童的街头游戏减少。一个城市变得安静,不是因为它安全,而是因为它被监视着。东耶路撒冷:每个角落都有摄像头在东耶路撒冷的旧城和周围的社区中,面部识别技术依赖于一个庞大的CCTV骨架。录像可以被搜索。几天后可以匹配抗议活动中的面部。逻辑很简单:你可能会离开,但你不会离开数据库。居民谈到了“第二种感觉”——一种对每个杆装置的意识,以及随之而来的内部审查。人权危机几个红线同时被突破: 平等: 只有巴勒斯坦人在这些检查站接受生物识别分类。单独的路线保护了定居者免受类似的审查。 同意: 注册是强制的。拒绝被扫描意味着拒绝移动。 透明度: 人们无法看到、争议或更正控制他们的数据。 比例性: 一个低摩擦、始终在线的生物识别网将整个人口视为默认可疑对象。 面部识别也会误识别——尤其是在照明不良、部分遮挡或年龄变化的情况下。在这种情况下,误匹配可能意味着拘留或拒绝通行;漏匹配可能会将某人困在转盘处。心理负担在持续的AI监视下生活会教会人们谨慎。人们会避免聚会,改变日常习惯,并更密切地监督孩子。公开场合会谨慎选择言辞。行动会被计算。许多人描述了被简化为绿色、黄色或红色代码的去人性化效果。机器的二元判断成为你一天中最重要的事实。治理、法律和问责在以色列本土,面部识别已经遇到了隐私反弹。在被占领的领土上,适用不同的法律制度,军事命令覆盖了民用隐私规范。关键缺陷: 无独立监督具有审计数据集、阈值或错误率的权力。 无上诉程序用于错误标记或注册的个人。 未定义的保留和生物识别数据及派生配置文件的共享规则。 目的蔓延风险,因为数据集和工具被重新用于情报定位和网络监视。 在没有约束的情况下,缺省的轨迹是扩张:更多摄像头、更广泛的监视名单、更深入的与其他数据集(电话、车辆、公用事业)的集成。进入决策循环面部识别在这里并不孤立地运行。它与以下内容融合:...
作者 Antoine Tardif, Unite.AI 首席执行官兼创始人
-
监控人工智能在预测犯罪方面是否有所改进?
科幻书籍和电影曾经想象过一个未来,警察可以在犯罪发生之前预测犯罪,而现在,人工智能(AI)使其成为可能。目前,几座城市正在尝试使用人工智能驱动的预测性执法。然而,这并不是一种常见的做法,所以是什么阻碍了其发展?准确性和可靠性一直是预测分析应用中的问题。然而,技术已经成熟到可以在制造业和供应链管理等行业中产生影响。那么,它是否已经准备好在犯罪预测方面进行更大规模的推广?当前犯罪预测人工智能的状态预测性执法可能还不是常态,但近年来已经取得了一些重大发展。这些发展可以分为三个主要类别:现实世界中的犯罪预测人工智能,实验研究和尚未启动的犯罪预测项目。1. 现实世界中的积极成果一些城市已经从人工智能驱动的预测性执法中获得了令人印象深刻的成果。迪拜警察总局的刑事调查部门表示,严重犯罪率下降了25%,这是在实施了人工智能工具来预测犯罪后实现的。较轻的刑事活动也下降了7.1%。像许多人工智能犯罪预测工具一样,该解决方案通过分析过去的报告并将其与当前情况进行比较来工作。通过突出显示以前犯罪的趋势,机器学习模型可以识别出类似事件可能发生的区域和时间。警察可以提前部署资源,以阻止犯罪或解决可能导致犯罪的因素。加利福尼亚州圣何塞已经从一种不同的人工智能模型中获得了成功。虽然该城市尚未预测犯罪,但它使用人工智能检测坑洼和涂鸦,以便更快地解决这些问题。根据官员的说法,清洁一个区域可以减少该区域的犯罪可能性,因此这个过程仍然可以减少犯罪事件。2. 有前途的实验模型随着现实世界中的预测性执法的增长,类似应用的早期测试也显示出希望。在许多司法管辖区,全面推出犯罪预测系统涉及相当大的监管障碍,减缓了技术的采用。实验阶段的例子在此期间推动了进展。2022年,芝加哥大学的一项研究创建了一个可以预测犯罪,准确率达90%,预测时间可达一周。更重要的是,该系统比旧系统更不容易出现偏差,因为它使用了不同的数据。它不将城市划分为社区或政治边界,而是将其划分为不同的、相等的方块,以提供对该地区的新视角。通过构建城市的数字孪生来绘制犯罪情况,而不是依赖旧的、容易出现偏差的记录,可能会产生更可靠的见解。警察部队尚未开始使用该系统,但研究展示了该领域新技术可以做什么。3. 即将推出的预测性执法投资展望未来,几个地区最近宣布了人工智能犯罪预测目标。这些项目尚未启动,但它们的出现表明人们对该技术的有效性越来越信任,可能是由于政府的信任而增加的。2024年7月,阿根廷安全部宣布计划使用人工智能预测犯罪和响应。根据该决议,警察将分析历史犯罪数据以预测未来事件,并相应地做出反应以防止任何事情发生。它还提到了实时异常检测,这可能与预测模型一起工作。最近,英国透露正在开发预测工具,以识别可能构成最大暴力犯罪风险的人。尚不清楚当局将如何应对这些数据,而且关于该解决方案将使用什么数据存在相互矛盾的报道。司法部表示,该项目目前仅用于研究,但今天的研究可能会导致明天的实际项目。人工智能犯罪预测如何改进?这些当前和未来预测性执法应用与该技术的首次示例相差甚远。然而,它们确实标志着一个积极的转变。以前的迭代无法达到相同的准确性和可靠性水平。芝加哥大学解决方案的90%准确率和迪拜25%的严重犯罪减少率与早期尝试相差甚远。2024年,佛罗里达州帕斯科县警长办公室支付了10.5万美元的和解金,并关闭了其预测性执法计划,原因是效果不佳。该系统导致警官反复访问甚至逮捕尚未犯下罪行的公民,仅凭人工智能模型的预测。同样,芝加哥关闭了其犯罪预测模型,原因是有多次投诉。研究发现,该系统对枪支相关犯罪没有显著影响,尽管逮捕可能性增加。更令人担忧的是,研究揭示了该算法固有地存在种族偏见,使有色人种更容易被逮捕。另一个被多个城市使用的流行解决方案Geolitica(以前称为PredPol)显示其预测严重袭击的准确率仅为0.6%。在某些地区,入室盗窃的准确率仅为0.1%。与这些失败的计划相比,新的人工智能犯罪预测器具有显著的准确率。虽然还没有太多的故事讲述警察部队使用这些更先进的解决方案,但早期结果与昨天的人工智能形成鲜明对比。人工智能在犯罪预测中的黑暗面很容易理解为什么这么多司法管辖区正在投资人工智能犯罪预测。阻止犯罪在其发生之前是一个巨大的公共安全收益,而人工智能可以检测出与人类假设相矛盾的趋势。例如,超过半数的入室盗窃发生在白天,尽管人们普遍认为夜间更容易发生此类犯罪。人工智能可以看穿表面现象,发现真正的趋势。与此同时,预测性执法带来了重大的隐私和伦理问题。美国有52%的人更担心人工智能,而不是对其感到兴奋。即使是最先进的模型也容易出现幻觉,而人工智能有延续甚至放大人类偏见的记录,特别是在训练有偏见的数据时。历史犯罪数据可能是有偏见的,甚至是种族主义的。逮捕记录可能表明某些地区受到的警务更为密集,而不是真正的犯罪情况。因此,数据可能反映了执法中长期存在的种族偏见。从有偏见的数据中学习的人工智能模型可能会导致警察在黑人社区巡逻得更多,或对有色人种更为怀疑。芝加哥和帕斯科县的案例正是如此。因此,在不承认这些偏见的情况下依赖人工智能预测可能会加剧历史上被过度监管和处于劣势的群体的不公平待遇。除了种族不公正之外,收集如此多的公民数据可能会导致隐私风险。政府机构是第八大网络犯罪目标行业,因此,预测性执法模型可能会发生违规事件,除了造成损害外,还会引发人们对过度监视和正当程序的担忧。人工智能犯罪预测正在改进,但仍存在担忧人工智能犯罪预测模型比几年前更加准确。然而,关于偏差、有效性和正义的担忧仍然突出。政策制定者和人工智能公司必须解决这些问题,以确保该技术能够真正提供一个更安全的未来。
作者 Zac Amos, 特稿编辑,ReHack
-
监控以色列的特洛伊木马:加纳购买佩加苏斯如何引发非洲的隐私担忧
在国际间谍和数字监视的阴影世界中,很少有名字能像以色列的NSO集团和其臭名昭著的佩加苏斯间谍软件一样引起争议。随着加纳加入购买该强大工具的非洲国家行列,人们开始质疑其对隐私、民主和以色列在塑造非洲数字化格局中的作用的影响。加纳的策略2015年12月,在官僚的晦涩中,加纳做出了一个决定。这个西非国家,以其相对的稳定和民主进步而闻名,悄悄地签署了一份价值550万美元的合同,购买佩加苏斯间谍软件系统。这笔交易涉及一个复杂的参与者网络:以色列的NSO集团,一个名为Infralocks Development Limited(IDL)的神秘中间人,以及加纳的国家通信管理局(NCA)。 这笔交易不仅因其秘密性质而引人注目,还因其中的价格差异而令人惊讶。IDL计划以800万美元的价格将该系统转卖给NCA,从而赚取250万美元的利润。这笔财务上的巧妙运作后来将成为这笔交易的策划者们的祸根,导致法律后果和定罪。佩加苏斯:全能的眼睛那么,加纳到底购买了什么?佩加苏斯并不是一个普通的监视工具。它是一个数字万能钥匙,能够解锁任何它感染的智能手机的最亲密秘密。通过一个不起眼的电话或短信,佩加苏斯可以悄悄地渗透到设备中,授予其操作者无限制地访问电话、短信、照片,甚至电话的麦克风和摄像头。 使佩加苏斯真正令人恐惧的是其“零点击”能力。与传统的恶意软件不同,需要用户交互,佩加苏斯可以在不需要任何用户操作的情况下感染设备。这种无形的入侵不会留下任何痕迹,将个人设备变成对其主人不经意的间谍。 技术上,佩加苏斯的能力令人惊叹。一旦安装,它可以: 阅读短信和电子邮件 监控和记录电话通话 实时跟踪GPS位置 访问设备的麦克风和摄像头 从各种应用程序中收集数据,包括加密的消息平台 收集密码和敏感信息 创新背后的黑暗面佩加苏斯和其创造者NSO集团的故事是一个关于技术的双刃剑的警世故事。2010年,由以色列精锐情报部队Unit 8200的前成员创立,NSO集团最初将自己定位为一个力求善良的力量,开发工具帮助政府打击恐怖主义和犯罪。 然而,随着有关佩加苏斯被用来针对记者、人权活动家和政治异见者的报告开始浮现,该公司的叙述开始解体。从墨西哥到沙特阿拉伯,从印度到摩洛哥,佩加苏斯已被牵涉到近年来一些最严重的侵犯隐私和人权的事件中。加纳的监视国家对于加纳来说,购买佩加苏斯标志着其监视能力的显著升级。虽然政府将购买理由解释为国家安全的必要,但批评者们看到了一个更险恶的动机。在一个有政治紧张历史的国家,滥用的可能性是明显的。 滥用的担忧并非毫无根据。2020年5月,加纳高等法院裁定佩加苏斯的购买是非法的,判处两名NCA官员和前国家安全协调员有罪。原来,间谍软件并不是安装在安全的政府设施,而是在国家安全顾问的私人住宅中,引发了人们对其预期用途的严重质疑。 这一揭露引发了关于国家安全与个人隐私权之间平衡的激烈辩论。人权组织对这些技术可能被用于政治镇压和侵犯隐私权表示担忧,特别是在民主机构仍在发展的地区。以色列的非洲策略加纳的佩加苏斯事件是以色列在非洲日益增长的影响力的一个更大故事的一部分。通过出口先进的监视技术,以色列一直在与非洲国家建立关系,树立自己为非洲安全格局中的关键角色。 这种数字外交对以色列有多重目的。它开辟了新市场给其科技产业,巩固了外交关系,并可能提供有价值的情报。然而,它也引发了关于国家在出口强大的监视工具到人权记录可疑的国家时的责任问题。法律挑战和国际反弹佩加苏斯和类似间谍软件的传播并没有被忽视。2021年,苹果在美国对NSO集团提起诉讼,指控该公司利用其间谍软件针对苹果用户。同样,WhatsApp起诉NSO集团,指控其利用其消息平台部署佩加苏斯间谍软件。 国际社会也采取了行动。美国商务部将NSO集团添加到其实体名单,有效地限制了其访问美国技术和市场的权限。这个决定是基于NSO的活动违反了美国国家安全和外交政策利益的证据。 在欧洲,欧洲议会建立了PEGA委员会来调查佩加苏斯和类似间谍软件在整个大陆的使用。该委员会呼吁对间谍软件的销售和使用实施禁令,直到有严格的保障措施到位。前路当加纳努力应对其佩加苏斯购买的后果时,对非洲和世界的更广泛影响是明显的。先进监视技术的传播对隐私、言论自由和民主规范构成了重大威胁。 佩加苏斯事件是一个警钟,强调了国际监管对监视技术的销售和使用的必要性。它还强调了在数字时代国家安全与个人权利之间的微妙平衡。 对于加纳、以色列和世界来说,佩加苏斯事件是一个严峻的提醒,关于技术塑造我们生活和社会的力量。随着我们在这个数字监视的新世界中前行,我们今天做出的选择将决定我们将要居住的未来。 最终,加纳的佩加苏斯故事不仅仅是一个关于间谍软件和监视的故事。它是一个反映我们集体与权力、隐私和21世纪安全代价斗争的镜子。随着技术的不断进步,保持警惕、促进全球对监视工具的伦理使用和数字时代基本人权保护的对话至关重要。
作者 Antoine Tardif, Unite.AI 首席执行官兼创始人
-
监控中国的监视之眼:乌干达的人工智能监控
这是Unite.AI探索国际政府机构与人工智能监控之间日益增长的联系的系列文章中的第一篇。全球范围内,国家驱动的监控计划正在迅速发展,往往由与中国、以色列和俄罗斯等强大的技术出口国的合作推动。乌干达是人工智能监控如何被部署、扩展和以国家安全为名进行辩护的令人信服的案例研究。乌干达的人工智能监控已经经历了显著的扩张,深刻影响了安全、治理和公共监督。尤其是考虑到乌干达政府以前曾使用军事法庭审判平民,这是一个令人担忧的问题。乌干达最近实施了一个广泛的人工智能驱动的监控系统,拥有成千上万的带有面部识别功能的闭路电视(CCTV)摄像头。这个计划是全国“安全城市”计划的一部分,得到了中国电信巨头华为的帮助。乌干达当局认为,这个高科技网络将加强公共安全,帮助遏制日益上升的犯罪率。然而,该计划也引发了争议,批评者对隐私、技术滥用以及国家监控的更广泛影响表示担忧。乌干达的经历是政府以安全为名采用人工智能监控的日益增长的全球趋势的典型例子,这引发了人们对如何在数字时代平衡安全和公民自由的重要疑问。背景:乌干达的安全城市监控项目乌干达对CCTV监控的推动是在2017年一系列高调暴力犯罪之后获得了动力。2017年3月,一名高级警察官员AIGP安德鲁·卡韦西(Andrew Kaweesi)被暗杀后,总统约韦里·穆塞韦尼(Yoweri Museveni)指示安全部门在主要城镇和高速公路上安装“间谍摄像头”。这一政治指令导致了2018年由华为管理的雄心勃勃的安全城市监控项目的启动,该项目的费用为乌干达先令458亿(约合1.26亿美元)。实施从坎帕拉大都会地区开始,计划在大坎帕拉部署超过3200台摄像头,这些摄像头将从集中指挥中心监控。截至2019年底,坎帕拉阶段的安装几乎完成,约有85%的摄像头(大约2500台)已经安装。这些摄像头监视着街道、交叉路口和公共空间,并实时将视频传输到警察控制室。该系统是华为全球安全城市计划的一部分,该计划旨在利用技术协助城市地区的执法。乌干达警察官员表示,坎帕拉之后,监控网络将扩展到全国所有主要城镇。华为所有权华为技术有限公司是一家私营公司,声称完全由员工所有。其独特的所有权结构高度不透明:大约99%的华为股份由代表员工的工会委员会持有,创始人任正非据称持有剩余的1%。员工被授予虚拟股份,赋予他们分享利润的权利,但外部分析表明,这些股份并不赋予对公司治理的典型控制或投票权。这种通过公司劳工工会委员会持有的所有权结构在中国尤其是对于像华为这样规模的公司来说非常罕见。缺乏对谁最终控制工会委员会的透明度引发了人们对华为管理层或其他人是否真正影响公司的疑问。华为坚持认为,没有任何外部实体(包括政府)持有任何股份,并且它是一家独立的、由员工经营的企业。尽管华为坚持其独立性,但其与中国国家和共产党的联系是一个有争议的问题。华为的创始人任正非曾是中国人民解放军的一名工程师,并且自20世纪70年代末以来一直是中国共产党的成员。像许多大型中国公司一样,华为在其员工中设有一个内部的共产党委员会或“党支部”。此类党组织在中国公司中很常见,旨在确保公司的政策与国家和党的目标保持一致。西方官员经常指出任正非的军事背景和党员身份是华为可能受到北京影响的迹象。例如,2019年,美国国务卿迈克·蓬佩奥声称任正非在关于华为没有政府联系的问题上“撒谎”。官方理由和早期影响乌干达政府投资人工智能监控的官方理由是加强公共安全和现代化打击犯罪。警察和政府官员指出暴力犯罪的激增(包括暗杀、抢劫和绑架)作为购买华为摄像头系统的理由。安全部门迅速吹捧了新监控工具带来的早期“成功”。2019年初,当摄像头正在坎帕拉安装时,警方报告称已经解决或通过CCTV录像得到帮助的几十起案件。官员们声称,摄像头帮助调查人员在短时间内解决了坎帕拉中心和周边地区的40多起案件,包括识别犯罪嫌疑人和涉案车辆。乌干达警察部队赞扬了CCTV网络,是对警务工作的重大升级,并指出面部识别和自动车牌识别等功能将增强他们识别罪犯和迅速做出反应的能力。隐私和政治问题尽管承诺了安全益处,乌干达的人工智能监控计划仍面临来自反对派领导人、民间社会活动家和隐私倡导者的严厉批评。他们的担忧集中在这些技术可能被滥用的可能性,特别是在一个拥有长期执政的政府和镇压异见历史的国家。反对派政客警告说,全国性的摄像头网络可以轻松地被用作政治监控工具,借口是公共安全,以追踪和识别政府批评者。值得注意的是,乌干达警察在2021年有争议的总统选举之前获得了面部识别摄像头系统,这加剧了人们对其真正目的的怀疑。隐私权组织还反对在监控系统推出时缺乏充分的法律保障和监督。位于坎帕拉的数字权利组织“不受欢迎的证人”批评政府在没有相关法律或明确指南的情况下急于部署“间谍摄像头”,警告说这可能会“危及更多生命”,而不是保护他们。活动人士指出,在没有隐私立法和透明度的情况下,CCTV和面部识别系统收集的庞大数据可能会被用来监视无辜的公民、扼杀言论自由或针对政治对手。比较洞察:非洲的人工智能监控乌干达并不是唯一一个采用人工智能监控的国家,其他国家也推出了类似的计划,引发了关于安全和隐私的类似辩论: 肯尼亚:乌干达的邻国与华为合作实施了自己的安全城市监控系统,在内罗毕安装了1800多台高清摄像头。 津巴布韦:该国与CloudWalk Technology签署了一项有争议的协议,开发一个全国性的面部识别计划。 结论乌干达在人工智能监控方面的尝试凸显了此类技术的双刃剑。为确保法律保护和监督至关重要。乌干达的经历凸显了全球平衡安全需求与隐私权的更广泛挑战。一个完全被监控的社会的影响是深远的。公民可能会自我审查,限制他们的言论和表达自由,以免遭到政府报复。大规模监控可能会导致对政治异见、活动主义和公共集会产生寒蝎效应。另外,广泛的监控往往会侵蚀政府和公众之间的信任,因为人们可能会觉得自己一直被监视,从而阻碍公开的民主讨论。如果没有严格的保障措施,这些技术可能会从预防犯罪的工具变成控制工具。这只是我们深入探讨全球人工智能驱动监控的崛起及其深远影响的开始。随着本系列的继续,我们将探讨政府如何将人工智能作为控制工具,人工智能对公民自由构成的风险,以及对隐私和透明度日益增长的担忧。从预测性警务到大规模数据收集,我们将研究人工智能监控的现实世界影响及其对日益监控的世界中自由和治理的未来意味着什么。
作者 Antoine Tardif, Unite.AI 首席执行官兼创始人
-
监控微妙的平衡:通过边缘 AI 保护隐私同时确保公共安全
在现代社会中,社区面临着多种新兴的公共安全威胁:城市化的增长、犯罪率的增加和恐怖主义的威胁。当处理有限的执法资源和不断增长的城市时,确保公共安全的挑战变得更加困难。技术的进步使得监控设备和摄像头可以使公共空间更加安全——但这往往是以牺牲个人隐私为代价的。中国拥有近 600 万 台监控摄像头,每两个人就有一台摄像头,中国以外的最受监控的城市包括德里、首尔、莫斯科、纽约和伦敦。虽然这对公共安全有益,但这种监控的增加却以侵蚀个人隐私为代价。许多人重视他们的匿名权和不被持续监控的权利,“大哥哥”正在监视的想法可以在安全和隐私之间制造冲突,导致政策制定者之间的激烈辩论。人工智能技术增强公共安全最近,摄像头越来越多地融入了人工智能,正在发挥着越来越重要的作用于公共安全。通过在摄像头或视频管理系统级别集成人工智能,并结合生成式人工智能,人工智能对公共安全监控非常有吸引力。监控系统中最常见的人工智能应用包括 周界保护 和访问控制。这些应用利用人工智能任务,如物体检测、分割、视频元数据和重新识别,以快速准确地识别合法与可疑或异常的人或行为,并在实时触发响应。人工智能驱动的监控系统可以提供更细致和复杂的功能。通过人工智能,监控系统可以实时检测、识别和响应安全事件,并具有高精度。虽然增强安全和公共安全是一个好处,但人工智能也引发了对数据隐私的担忧,一些人担心个人可识别信息的潜在滥用。在处理大量数据时,实施强大的数据保护措施至关重要。云端 AI 面临隐私挑战基于云的 AI 解决方案传统上通过利用集中式数据中心提供强大的处理能力,但它们也存在数据隐私的漏洞。当数据存储或“静止”时,集中式存储使云系统成为网络攻击的关键目标。恶意行为者可以入侵这些系统,导致严重的数据泄露和潜在的数据暴露。然而,如果数据处理是去中心化的,并在网络边缘进行,泄露将仅限于被入侵的特定节点,且大规模数据泄露更加困难。此外,基于云的数据处理系统必须遵守许多数据隐私法规,这些法规限制了原始数据的分析,导致了有限的洞察力和潜在的法律责任。边缘处理仅存储和传输最少的必要信息,同时仍允许深刻的洞察力。将数据从云端传输到设备会创建额外的漏洞点。通过在传输过程中拦截数据,黑客可以暴露敏感信息并破坏系统的安全性。总体而言,云数据中心是一个单点故障,如果受到影响,可能会影响许多摄像头。边缘 AI 在隐私和安全之间走钢丝边缘 AI 提供了一种有力的解决方案来解决这些挑战,在设备本身上处理数据,而不是将其发送到云端。如果数据是分布式的,每个系统可以采用不同的算法和功能,从隐私角度来看,这有几个优势。通过在设备上处理数据,边缘 AI 系统最小化了在互联网上传输敏感信息的需要,大大降低了在传输过程中被拦截的风险。通过本地存储数据,网络攻击的风险也降低了。如果一个设备被泄露,攻击的范围可以限制在该设备内,而不是整个网络。最后,边缘 AI 还允许在设备本身对数据进行匿名化。这简化了存储数据的过程。存储的数据可以在边缘设备或云中存储,而不会暴露个人可识别信息。关键地,边缘 AI 可以被设计为仅关注特定事件。例如,边缘 AI 可以被编程为识别暴力或可疑行为的实例,而无需持续记录视频,这有助于维护公共空间中个人的隐私。其他工具,如带宽限制,可以确保视频文件不会持续发送到云端,降低数据泄露的风险并保护个人的隐私。然而,为了使边缘 AI 成为一种有效的安全工具,它必须既高效又强大,能够保持成本友好和节能,同时快速处理复杂的算法。人工智能硬件,包括 Hailo 的专用人工智能处理器和低功耗、高计算性能芯片,使这一点成为可能。边缘...
作者 Danya Golan, Hailo 营销副总裁
-
监控人工智能交通摄像头是否正在监视您的驾驶?
人工智能(AI)如今无处不在。虽然这对有些人来说是一个令人兴奋的前景,但对于其他人来说,这是一个令人感到不舒服的想法。像AI驱动的交通摄像头这样的应用尤其具有争议性。如其名称所示,它们使用机器视觉分析道路上的车辆图像。它们通常是一种执法措施——警察可能使用它们来抓住分心驾驶或其他违法行为,例如一辆没有乘客的汽车使用高速公路。然而,它们也可以简单地监测交通模式以告知更广泛的智能城市运营。在所有情况下,然而,它们都带来了同等程度的可能性和问题。人工智能交通摄像头今天有多常见?虽然人工智能交通摄像头的概念仍然相对较新,但它们已经在几个地方使用。几乎一半的英国警察部队已经实施了它们,以执行安全带和分心驾驶法规。美国执法机构正在跟进,北卡罗来纳州在安装人工智能摄像头后,抓获的电话违规行为增加了九倍。固定摄像头并不是今天唯一的使用案例。一些交通部门已经开始在公共车辆(如公交车)内部实验机器视觉系统。至少四个美国城市已经实施了这样的解决方案,以检测非法停车在公交车道上的汽车。由于许多地方政府使用这种技术,可以肯定地说,它将来可能会增长。随着时间的推移,机器学习将变得更加可靠,早期测试可能会导致进一步的采用,如果它们显示出有意义的改进。不断增长的智能城市投资也可能推动进一步的扩张。全球各地的政府都在大量投资于这项技术。中国旨在建设500个智能城市,而印度计划在至少100个城市测试这些技术。随着这一切的发生,更多的驾驶员可能会在日常通勤中遇到人工智能摄像头。在交通摄像头中使用人工智能的好处人工智能交通摄像头正在增长,这是有原因的。这种创新为公共机构和私人公民提供了几个关键优势。安全改进这些摄像头最明显的优势是它们可以使道路更安全。分心驾驶很危险——仅2022年就导致了3,308人死亡,但很难被抓住。算法可以比高速公路巡警更容易识别分心驾驶,帮助执行禁止这些鲁莽行为的法律。早期迹象很有希望。已经开始使用这些摄像头的英国和美国警察部队看到对分心驾驶或不系安全带的驾驶员开出的罚单大幅增加。随着执法部门打击这些行为,它将激励人们为了避免罚款而安全驾驶。人工智能也可以比其他方法(如红灯摄像头)更快地工作。由于它自动化了分析和开罚过程,因此避免了漫长的手动工作流程。因此,罚款很快就会到达,从而使其成为比延迟反应更有效的威慑。自动化还意味着拥有较小警察部队的地区也可以享受这些好处。交通流畅人工智能交通摄像头可以最小化繁忙道路上的拥堵。使用它们抓住非法停车在公交车道上的汽车的地区就是一个很好的例子。执行公交车道法规可以确保公共车辆可以在应该停的地方停下来,避免延误或破坏其他车道的交通。自动化安全带和分心驾驶违规行为的罚单也有类似的效果。拦下某人可以破坏其他车辆的交通,尤其是在繁忙地区。通过拍摄车牌并向驾驶员发送账单,警察部门可以在不增加日常交通混乱的情况下确保更安全的街道。非执法摄像头可以进一步发挥这种优势。城市中的机器视觉系统可以识别拥堵并相应地更新地图服务,绕过繁忙地区以防止长时间的延误。考虑到平均美国驾驶员在2023年花了42小时堵在交通中,任何这样的改进都是一个受欢迎的变化。人工智能交通监控的缺点虽然人工智能交通摄像头的好处值得注意,但它们并不是完美的解决方案。这种技术也带来了几个重大的潜在缺点。错误和虚假阳性人工智能的准确性可能会引起一些担忧。虽然它在重复、数据密集型任务中往往比人类更准确,但它仍然可能犯错误。因此,去掉人工监督可能会导致无辜的人受到罚款。软件漏洞可能会导致机器视觉算法误识图像。网络犯罪者可以通过数据中毒攻击使此类情况更容易发生。虽然人们可能能够对自己的罚单提出异议并洗清自己的名声,但这将是一个漫长而艰难的过程,这将抵消一些技术效率的好处。虚假阳性也是一个相关的问题。算法可以产生高虚假阳性率,导致更多无辜的人受到指控,这在许多情况下带有种族含义。由于数据偏差可能在为时已晚之前保持隐藏,政府应用中的人工智能可能会加剧法律体系中的种族或性别歧视问题。隐私问题围绕人工智能交通摄像头的最大争议是一个熟悉的问题——隐私。随着更多城市安装这些系统,它们记录了越来越多的驾驶员的图像。如此多的数据放在一个地方引发了关于监视和敏感信息(如车牌号码和驾驶员面部)的安全性的大问题。许多人工智能摄像头解决方案仅在确定违规时才保存图像。即使如此,它们的运行也意味着这些解决方案可以存储数百甚至数千张道路上的驾驶员图像。除了政府监视的担忧外,这些信息对网络犯罪者来说是一个诱人的目标。美国政府机构在2023年遭受了32,211起网络安全事件。网络犯罪者已经针对公共组织和关键基础设施,因此,人们担心这些群体会收集更多关于公民的数据是可以理解的。单个人工智能摄像头系统中的数据泄露可能会影响许多原本不会同意提供数据的人。未来可能会发生什么考虑到这些争议,自动化交通摄像头可能需要一段时间才能成为全球标准。关于虚假阳性和网络安全问题的故事可能会延迟一些项目。最终,然而,这是一个好事——对这些挑战的关注将导致必要的开发和监管,以确保推出做更多好事而不是坏事。严格的数据访问政策和网络安全监控将在证明广泛采用时至关重要。同样,使用这些工具的政府组织应该验证其机器学习模型的开发,以检查和防止偏差等问题。像最近的欧盟人工智能法案这样的法规已经为此类资格提供了立法先例。人工智能交通摄像头带来承诺和争议人工智能交通摄像头可能仍然很新,但它们值得关注。技术的承诺和陷阱都需要在更多政府试图实施它们时得到更大的关注。对这种创新所带来的可能性和挑战的更高的认识可以促进更安全的开发,以实现未来道路网络的安全和高效。
作者 Zac Amos, 特稿编辑,ReHack
-

监控AI 加速了安全摄像头的能力
当你听到安全时,它经常是关于网络安全——尤其是当 AI 参与时。然而,物理保护的需求并没有消失,AI 也可以改善安全的这一方面。AI 安全摄像头正在革新消费者和企业的监控。视频门铃和其他智能摄像头是最流行的智能家居设备。同样的底层技术也可以惠及商业安全系统。以下是五种 AI 监控在这两个领域改变游戏规则的方式。1. 即时响应AI 安全摄像头的一个主要优势是它们可以触发即时报警。传统摄像头需要不断监控,或者只能帮助你事后识别嫌疑人。AI 更高效。机器视觉可以 比人类大脑更快地处理信息,并且通常更准确。在安全领域,这意味着智能摄像头可以识别入侵者并触发适当的响应。因此,企业和家庭可以在重大损害发生之前阻止入侵。AI 驱动的摄像头还可以连接到多个系统以实现更广泛的即时响应。最基本的,它们可以打开灯光来吓跑入侵者。其他可以自动联系警察,发出响亮的报警或激活智能锁以将罪犯限制在一个地方。2. 物体和异常检测AI 监控摄像头还可以使用机器视觉来识别特定的物体。一些学校系统已经使用这些系统来检测武器,而无需侵入性的搜查或金属探测器。该技术可以识别枪支并在 三到五秒内向当局发出警报,可能挽救生命。一些高级 AI 系统甚至可以检测人群中的异常行为。机器视觉模型可以实时分析安全摄像头视频以识别可能表明盗窃的可疑行为。或者,它们可以检测暴力行为,如打斗或破坏,立即联系当局以应对情况。这种高级检测对于机场或体育场等地方尤其有用。虽然这些区域的人群可能太大,难以让人类安全团队有效监控,但 AI 摄像头可以填补空白。3. 减少误报基于运动检测的传统摄像头可以检测入侵和类似事件,但它们会产生大量误报。AI 安全摄像头更可靠,这提高了舒适度和安全性。入侵者经常从前门进入 比任何其他位置都多,但许多无辜的人也这样做。运动探测器还可能在动物经过时触发报警。这些误报会打断你的日常生活——尤其是在夜间——并导致警报疲劳,即你由于误报而对真正的威胁不再关注。AI 可以区分动物和人类,减少误报。一些甚至可以使用面部识别或学习不同居民的时间表,以避免在授权用户进入时触发报警。4. 减少安全人员挑战AI 监控的另一个重要好处是,它不需要太多人工干预。机器视觉可以分析视频,而不是安全警卫在桌子前,AI 摄像头可以自动联系当局或发出报警。这种自动化对消费者有帮助,因为他们可以在不需要昂贵的人力服务的情况下获得...
作者 Zac Amos, 特稿编辑,ReHack
-

监控工程师创建了铁路侵入检测工具,采用人工智能技术
鲁特格斯大学的一组工程师开发了一种人工智能辅助工具,可以检测铁路道口的侵入,帮助减少过去十年中不断增加的死亡人数。这项新研究发表在期刊Accident Analysis & Prevention上。使用人工智能自动检测侵入该团队由鲁特格斯大学项目工程师阿西姆·扎曼和交通工程副教授Xiang Liu组成。他们开发了一个人工智能辅助框架,可以自动检测铁路侵入事件。它还可以区分侵入者的类型并生成事件的视频片段。人工智能系统依赖于对象检测算法来处理视频数据并将其转换为单个数据集。“通过这些信息,我们可以回答许多问题,例如一天中什么时候最常发生擅闯行为,以及人们是否会在栏杆降下或升起时绕过栏杆?”扎曼说。过去几年,美国铁路侵入事故一直在增加,每年都有数百人死亡。尽管人们做出了很多努力来减少这些死亡事故,但到目前为止,仍然没有有效的解决方案。联邦铁路管理局(FRA)于2008年估计,每年约有500人在铁路侵入事故中死亡。到2018年,这个数字增加到855人。扎曼和刘在研究中定义了侵入者为未经授权进入不对公众开放的铁路或交通用地的人员或车辆,或在警示信号启动后进入设有信号的铁路道口的人员。以前的研究主要依赖于伤亡信息,但没有考虑到险些发生的事故,扎曼和刘认为,这些险情可以提供对侵入行为的宝贵见解。这可以帮助设计更有效的控制措施。研究人员使用新泽西州城市地区的一个铁路道口的视频录像来测试他们的理论。铁路道口视频系统的一个问题是,由于审查过程耗时且昂贵,视频录像经常没有被审查。训练人工智能扎曼和刘训练了人工智能和深度学习工具来分析研究现场的1632小时的存档视频录像。在68天的监测期间,他们发现了3004次侵入事件,平均每天44次。他们还发现,近70%的侵入者是男性,大约三分之一的侵入发生在火车通过之前。绝大多数违规行为发生在星期六下午5点左右。根据扎曼的说法,这种类型的详细数据可以被当地政府用来在违规高发时段的铁路道口附近部署警力,或者可以为铁路业主和决策者提供更有效的铁路道口解决方案。这些解决方案可能包括铁路道口消除系统或先进的栏杆和信号系统。“每个人都喜欢数据,这就是我们提供的,”扎曼说。“我们希望为铁路行业和决策者提供工具,以便他们能够利用视频监控基础设施尚未开发的潜力,通过对特定位置的数据源进行风险分析,”刘补充说。研究人员还在弗吉尼亚州和北卡罗来纳州进行研究。他们最近获得了美国交通部58.3万美元的补助金,以扩大到包括康涅狄格州、路易斯安那州和马萨诸塞州在内的其他州。
作者 Alex McFarland
-

监控Kogniz 推出计算机视觉平台用于枪支检测
先进的 AI 计算机视觉公司 Kogniz 已宣布推出可立即部署的枪支检测模块,作为其最新版技术的一部分,该技术预测、检测和解决安全和操作问题。该公司还宣布了一项 1,000 万美元的投资,由 Ulu Ventures 领投,super{set} Venture Studio 及其 CEO 和联合创始人 Tom Chavez、K20 Fund、The Indy Fund、H. Barton Asset Management 等参投。新的投资将帮助公司扩大其枪支检测、安全和异常检测技术,以适应商业、工业、学校和政府组织。枪支检测平台正在发生的枪击事件是美国面临的最严重的危机之一,给安全和保安带来了复杂的挑战。FBI 表示,2019-2020 年间正在发生的枪击事件增加了...
作者 Alex McFarland
-

监控警务工作中的AI现状
高级技术,尤其是人工智能(AI),被许多公司在各个行业采用,以帮助推动业务增长,提高效率并支持人类员工。实施AI解决方案的组织往往会因机会和应用的多样性而受益于增强的性能,这并不奇怪。AI已经渗透到日常生活中,从数字助手到驱动智能手机的技术。预计全国的执法机构将继续采用AI驱动的工具来服务各种目的。这些组织目前如何使用AI?以下是关于警务工作中AI现状的更多信息。2022年执法机构如何使用AI警察改革已经成为近年来讨论的主要话题,尤其是在美国。 乔治·弗洛伊德的死 于2020年5月引发了一波全国性的抗议活动。一些倡导者呼吁进行重大改革,而其他人则支持削减警务经费或废除警察制度。根据2021年由美国政府责任办公室(GAO)进行的一项调查,20个执法机构报告了 拥有面部识别系统。六个机构表示,他们使用这些系统来识别违法者,在乔治·弗洛伊德死亡后的骚乱、抗议和暴乱期间。另外,三个机构报告使用面部识别技术来捕捉2021年1月6日美国国会大厦袭击事件的图像。许多美国人对AI在警察中的作用持有混合的看法。皮尤研究中心发现,45%的美国成年人 对警务工作中日益增加的AI使用感到同样担忧和兴奋。毫无疑问,技术正在被更加广泛地应用于执法部门。警察机构还以其他方式利用AI解决方案吗?犯罪预防和减少组织正在采用和实施AI系统来预防和最终减少犯罪率。AI算法可以处理大量数据以识别模式。执法机构 依赖这些模式 来了解更多关于其地区的犯罪率的信息。诸如预测问题可能发生的位置、哪些公民可能更倾向于犯罪或某个地区最常见的犯罪等信息都是AI在执法中的典型应用。面部识别和生物识别AI驱动的面部识别系统 可以加快调查速度,将罪犯绳之以法,并可能预防和阻止犯罪。生物识别是警察机构使用的另一项技术,用于 验证个人身份 和识别潜在嫌疑人。例如,执法机构可能使用生物识别技术来识别在武器或炸弹上留下指纹的人。无人机监视美国的执法机构正在采用AI无人机技术来收集情报和监视其地区。无人机是替代直升机的可行选择,能够提供对潜在的不稳定或暴力情况的鸟瞰图。根据2020年巴德学院无人机研究中心的一份报告,美国至少有1,578个州和地方 公共安全机构拥有无人机技术。其中约70%是执法机构。犯罪报告和紧急应用更多的执法机构正在采用众包犯罪报告和紧急应用程序,以确保公共安全。德勤2021年的《城市未来与目的》报告发现,智能技术,包括AI解决方案,被广泛使用。报告表明,39%的城市使用众包犯罪报告和紧急应用程序。警察使用AI的争议警察使用AI的增加引发了专家、公民和机构本身的争议和辩论。有些人对警察使用这些技术表示担忧,而其他人则认为AI的采用将加强行动并改善公共安全。AI系统中的不准确性和偏见多年来,警察机构一直依赖历史犯罪数据。过去的犯罪信息被输入到使用机器学习(ML)算法来预测未来事件信息的AI系统中。然而,如果这些“教导”这些AI系统的数据中嵌入了偏见会怎么样?Gizmodo和The Markup进行的一项调查 显示,一种名为PredPol的AI软件在预测犯罪将发生在工薪阶层、黑人和有色人种居住的社区中时存在不成比例的偏见。Gizmodo和The Markup的调查是首次独立尝试检查量化的PredPol犯罪预测,以确定该软件是否消除或延续了警察中的种族偏见。缺乏人工监督本质上,AI消除了对人工监督的需求。AI程序通常擅长于决策,但它们 解决问题的方式与人类不同。如果系统失败,如过去的许多技术创新一样,谁将承担责任?责任是否落在执法机构、值班警官或技术制造商身上?随着AI在执法中的采用增加,关于责任和缺乏人工监督的问题继续出现。隐私问题使用上述AI解决方案的警察经常这样做,而没有监督或适当的测试。这个辩论中的一个主要话题是AI技术是否侵犯了公民的隐私。一些报告详细描述了警察如何使用AI软件 监控公民的社交媒体 平台,从而引发了更多的隐私问题。根据战略与国际研究中心(CSIS)的说法,美国的各个州,如俄勒冈州、新罕布什尔州和加利福尼亚州,通过了州法律 来规范或完全禁止面部识别技术。警察中的AI的未来角色新技术往往改善组织的运作,AI为执法机构带来了挑战和好处。即使解决方案是出于好意,但仍不清楚AI的广泛采用将如何影响执法、公共安全、种族不平等和人权。AI正在警察机构中占据其地位,但这些创新带来的利弊为政府和公民带来了许多不确定性。监测AI在未来如何改变其角色将会很有趣。
作者 Zac Amos, 特稿编辑,ReHack
-

监控智能城市如何防御未来大流行
随着COVID-19病毒在全球传播,人们开始质疑政府和官员是否有足够的计划来应对这种威胁。像纽约市这样的人口稠密地区受到的影响最大,因为人口密度使得病毒传播似乎不可避免。虽然我们仍然有很长的路要走才能消除这种威胁,但社会隔离似乎通过降低曲线的斜率起到了作用。其他国家,如中国,几个月前就成功实施了这一策略,并将智能技术作为监测城市条例和向居民提供物资和商品的一种方式。智能城市使我们能够通过使用数据传感器来收集和处理信息,从而在很短的时间内服务大量的人口。城市领导者和科学家可以使用这些数据来跟踪疾病、自主交付、调查感染的市民,并预测人类行为。到2050年,预计全球人口的三分之二将居住在城市。这将使城市规划对未来几代人来说更加至关重要,因为他们将准备保护自己免受未来大流行的影响。继续阅读,了解智能城市如何防御大流行。跟踪疾病疾病跟踪软件允许城市官员和科学家通过人工智能实时跟踪病毒的传播。那么,它是如何工作的?人工智能可以用于收集大量公共数据和信息,从数千个数据库和其他来源。这些数据用于跟踪病毒的传播,并显著提高响应时间有了这样的信息,各国不仅可以监测自己,还可以监测世界其他国家。例如,一家专门从事疾病跟踪的公司总部位于加拿大,是第一个对武汉、中国特定肺炎病例激增发表意见的。这是在世界卫生组织(WHO)向公众发布任何信息的前一周。机器人交付由于病毒的危险性及其快速传播的能力,许多国家命令其公民实行社会隔离。这意味着保持至少六英尺的距离,不聚集在一起,避免拥挤的地方。中国、意大利和其他国家的城市已经发布了避难所命令,要求公民呆在家里。许多送货司机、食品连锁店和杂货店一直在危险的条件下加班,以满足订单并跟上需求。随着机器人交付服务变得更加普遍,这将会大大减少。在智能城市中,机器人交付服务可以优先分配药品、食品和其他商品。已经采用机器人和自动交付服务的城市,如无人机和自动驾驶汽车和卡车,将更容易在大流行期间运送食品和物资。智能城市可以优先分配药品、食品和其他商品的交付。城市已经采用了机器人和自动交付服务,如无人机和自动驾驶汽车和卡车,将更容易在大流行期间运送食品和物资。地理位置服务地理位置数据可以瞬间预测人类行为。您的手机可能正在实时跟踪您的移动,所以为什么不使用这种数据跟踪功能来帮助减缓冠状病毒和其他大流行的传播?例如,热门的用餐和购物时间可以为城市官员提供如何制定计划和结构条例的见解,以应对未来大流行。无人机监督在许多可疑事件发生后,人们有权利对无人机的隐私问题感到担忧。然而,无人机在像武汉这样的城市中发挥了重要作用,取代了需要警察在现场执行避难所命令的必要性。即使意大利也使用无人机监督来提醒街上的市民回家并保持社交距离。热成像监控尽管其可靠性仍存在争议,但热成像摄像机的设计目的是测量个体在经过时的体温,以检查是否有人发烧。其中一些热成像摄像机还配备了面部识别软件。中国在街角安装了热成像摄像机,以便如果市民发烧,城市领导者或执法人员可以迅速响应。COVID-19的首要和最常见的症状之一是发烧。热成像摄像机是智能城市技术,可以实施以帮助官员监测疾病的传播,即使在今天的城市中也是如此。智能能源在大流行期间,人们最大的担忧之一是使用电力。在危机时期找到为城市提供能量的方法将是智能城市在未来大流行中的关键。能源的未来将与过去大不相同。与其拥有少数几个大型发电厂来分配能量,不如拥有更多的小型发电厂。能量将在本地运行,使每个人都能生成能量。能源正变得可以通过互联网控制。家电很快将被设计为具有互联互通的功能。这意味着家电本身使用数字系统,因此我们可以完全控制每个家电的能量存储和使用。 建筑物也将变得更加节能。互联网能力由于我们的数字世界不断演变,我们的沟通和信息获取方式已经发生了变化。例如,在危机时期让居民了解情况已经随着时间的推移而发生了变化。电视曾经是一个巨大的变化,因为人们可以在几小时内获得新闻。现在,您可以在几秒钟内获得更新和新闻,并且可以通过Twitter和Facebook等社交媒体获得。这是15年前无法做到的。人们可以如此快速地获得信息,并且可以在手掌中获得,当需要快速采取行动时,例如发布居家令,城市已经可以做到这一点。许多城市已经在许多建筑物和餐厅中提供Wi-Fi近十年了,但是在智能城市中,您几乎可以在任何地方获得Wi-Fi。对于那些年龄较大或无法购买智能设备的人来说,许多城市都散布着智能信息亭。这些信息亭可以像智能手机一样快速更新,以便与需要的人分享信息。最近的COVID-19大流行震惊了世界各地的公民和领导人。科学家和研究人员面临的最大挑战之一是缺乏有关该病毒的信息。然而,新技术可以实时跟踪数据,并可能成为决定这一大流行结果的关键因素。各国尽管存在分歧,但仍然团结起来改善大流行响应,智能城市将在这种改善中发挥重要作用。
作者 Karlyn McKell -

网络安全BAE系统高级分析实验室技术总监Don Widener博士 – 采访系列
Don Widener是BAE系统高级分析实验室和情报、监视和侦察(ISR)分析投资组合的技术总监。BAE系统是一家全球性的国防、航空和安全公司,全球雇员人数约为83,000人。他们的产品和服务涵盖空中、陆地和海军力量,以及先进电子、安全、信息技术和支持服务。是什么最初吸引您个人对人工智能和机器人感兴趣的?我一直对增强情报分析师的能力以使他们在任务中更有效感兴趣,无论是通过贸易开发还是技术。作为一名具有情报分析背景的人,我专注于弥合情报数据收集和决策之间的差距。 2019年8月,BAE系统宣布与UiPath合作,推出机器人操作中心 ,该中心将为美国国防和情报社区带来自动化和机器学习能力。您能描述一下这一合作吗?为我们2000多名情报分析师提供人工智能的民主化是BAE系统情报和安全部门高级分析实验室的主要驱动力。通过使用像UiPath这样的机器人流程自动化(RPA)工具,我们可以快速地为我们的分析师提供定制的培训课程和实践社区(如机器人操作中心),从而提高效率和有效性。没有编程基础的分析师可以构建自动化模型或“机器人”来处理重复性任务。 机器人操作中心的机器人将如何被用来打击网络犯罪?在网络威胁分析中,外部威胁数据收集需要应用人工智能。2020年RSA会议上,我们与Dell合作展示了他们的AI Ready Bundle for Machine Learning,该套件包括NVIDIA GPU、库和框架以及管理软件,构成了一个完整的解决方案堆栈。我们展示了人机协作,通过向与会者展示物体检测模型的创建,用于过滤公开可用的数据以识别可能触发网络犯罪的物理威胁热点。 训练机器人操作中心机器人的神经网络将收集大量的数据。这些数据集包括哪些?BAE系统最近获得了陆军开放源情报(OSINT)合同,负责将大数据能力集成到我们的安全云托管环境中。 您能描述一下BAE系统目前正在研究的深度学习方法吗?我们正在研究的一些深度学习方法包括运动图像、人道主义灾难救济和COVID-19。 您是否认为,物体检测和分类仍然是部分可见或被其他物体遮挡的物体的问题?计算机视觉模型在部分遮挡时效果较差,但对于国家任务计划(如基础军事情报)来说,即使高假阳性率也可能支持决策优势。 计算机视觉面临的其他挑战是什么?数据标注是一个挑战。我们与几家数据标注公司合作,标注未分类的数据,但对于分类的数据,我们正在使用我们的情报分析师工作人员来支持这些计算机视觉培训计划,而这个工作人员是一个有限的资源。感谢您接受这次采访。对于任何希望了解更多的人,可以访问BAE系统。
作者 Antoine Tardif, Unite.AI 首席执行官兼创始人
-

伦理中国引领全球人工智能技术的扩张和出口
中国在全球人工智能技术的扩张方面处于领先地位,已将其出口至60多个国家,其中许多国家的人权记录令人担忧。其中一些国家包括伊朗、缅甸、委内瑞拉和津巴布韦,中国公司已将该技术出口至这些国家。根据美国智库卡内基国际和平基金会发布的报告,许多国家正在部署先进的AI监视工具来监控和跟踪公民。该新指数详细介绍了这些国家如何做到这一点。报告有几个关键发现,包括AI监视技术正在以比专家预期更快的速度传播到其他国家。全球176个国家中,至少有75个国家正在使用AI技术进行监视。56个国家正在使用它进行智能城市/安全城市平台,64个国家正在使用它进行面部识别系统,52个国家正在使用它进行智能警务。另一个关键发现是,中国是全球AI监视的主要提供者。该技术与中国一些最大的公司如华为、海康威视、达华和中兴密切相关。与这些公司相关的AI监视技术为63个国家提供了能力。其中36个国家是中国的“一带一路”倡议(BRI)的一部分。华为,这家最近被广泛讨论的中国公司,仅凭自己就为全球至少50个国家提供了AI监视技术。日本的NEC株式会社是次大的非中国供应商,只为14个国家提供了该技术。中国经常在推销产品时向政府提供软贷款。政府然后使用这些资金购买产品和设备,这种技巧已在肯尼亚、老挝、蒙古、乌干达和乌兹别克斯坦等国家得到应用。如果没有中国的支持,这些国家可能无法获得该技术。这种提供软贷款来购买AI监视技术的做法令人担忧,人们正在质疑中国政府在多大程度上补贴了“先进的镇压技术”的购买。中国并不是唯一一个提供AI监视技术的国家,美国公司提供的技术目前已在32个国家使用。一些大型美国公司包括IBM(在11个国家)、Palantir (在9个国家)和Cisco(在6个国家)。除了美国和中国外,世界各地的所谓自由民主国家,如法国、德国、以色列和日本,也有公司负责出口和扩散该技术。根据报告,目前尚未采取足够的措施来监控和控制该技术的潜在危害。根据指数,51%的先进民主国家部署了AI监视系统,而37%的封闭专制国家、41%的选举专制/竞争专制国家和41%的选举民主/非自由民主国家部署了AI监视技术。虽然这些数字并不意味着所有政府都滥用该技术,但这种可能性存在,许多政府确实如此。例如,中国、俄罗斯和沙特阿拉伯等国家以使用AI技术进行大规模监视而闻名,而其他人权记录不佳的政府正在使用它来加强镇压。特别是,中国共产党目前正在使用面部识别系统来针对新疆的维吾尔族和其他穆斯林少数民族。报告还发现,一个国家的军费开支与其政府使用AI监视系统之间存在着密切的联系。在全球50个最大军费开支的国家中,40个国家正在使用AI监视技术。卡内基国际和平基金会的新报告强调了专家曾经预测的危险。这些危险现在已经成为现实,许多国家认为AI技术是跟踪和监视人员的极其有效的方式。虽然很难回头,但许多人仍然相信,国际组织和协议需要开始解决围绕AI的问题。
作者 Alex McFarland
-

网络安全人工智能现在被用于检测学校儿童的网络欺凌
关于学校儿童的欺凌、自伤和网络欺凌的数据变得越来越令人担忧。正如Jun Wu所介绍的,美国的数据显示,在2017年,根据国家教育统计中心和司法局的数据,约20%的12-18岁的学生经历过欺凌。 根据疾病控制和预防中心的数据,9-12年级的学生中有19%报告在过去12个月内在学校被欺凌。更令人担忧的是,网络欺凌的增加,已经超出了学校的范围。正如Wu所指出的,“在线论坛、电子邮件和社交媒体平台上的骚扰可能比面对面欺凌更有害于受害者的精神健康。网络欺凌可能是学校欺凌的升级。同时,欺凌可能从社交媒体开始,然后扩展到课堂上。”在澳大利亚,研究人员报告了一种叫做Momo的现象,即“网络捕食者以Momo的名义联系孩子,通过社交媒体要求他们自伤,这引起了全国各地学校的担忧。”预防此类欺凌和可能由抑郁症引起的自伤,促使一些人工智能开发人员尝试寻找解决方案来解决这个普遍的问题。正如SkyNews报道,一些英国学校已经开始使用一个名为AS Tracking的AI工具,该工具由STEER公司开发,已经在英国150所学校中使用。该工具涉及学生进行在线心理测试,到2019年9月,50,000名学生将参加该测试。正如所解释的,该测试要求学生想象一个他们感到舒适的空间,然后提出一系列抽象的问题,例如“有人进入你的空间有多容易?”孩子可以通过点击一个从“很容易”到“很难”的按钮来回答。结果被发送到STEER,“然后将数据与其心理模型进行比较,并在教师仪表板中标记需要关注的学生。”根据STEER的联合创始人Jo Walker博士的说法,“我们的工具突出了那些在特定发展阶段挣扎的孩子,并指出教师如何看待这些孩子的想法。”他补充说,“自从引入该工具以来,自伤率已经下降了20%。”在她的分析中,Wu提到了美国的一些AI开发人员,他们正在帮助解决这个问题。 Securly使用AI创建“网页过滤、网络欺凌监控和自伤警报,供学校使用。学校可以向学生发放Apple设备和Chromebook,同时监控学生的网络活动。父母也可以在家中的设备上使用应用程序来监控孩子的网络活动。” Bark使用AI来监控短信、YouTube、电子邮件和24个不同的社交网络,以提醒父母注意潜在的安全问题。 SN Technologies Corp更进一步,其AI解决方案使用面部识别技术来跟踪学校监控摄像头视频中的“黑名单”学生。在澳大利亚,网络安全初创公司Saasyan Assure开发了一种AI方法,可以帮助教师跟踪观看“Momo Challenge”视频的学生。Saasyan Assure的负责人Greg Margossian说,他的公司“只是确保在所有客户的数据库中包含‘Momo’关键词,而不需要他们思考。”据称,该公司“提供了一种可以添加到学校所有设备上的订阅软件,可以创建每个学生的计算机使用历史记录,并在出现欺凌、自伤或暴力等风险时提醒教师。”
作者 Ljubinko Zivkovic