Timothy Menard Timothy Menard

城市如何部署领先的技术，利用无偏见的AI算法

今天，几乎每个方面的生活都与在线网络的某个部分有关。虽然这无疑改善了生活的许多方面，例如我们可以携带手持设备随时获取信息，但也带来了某些风险。这些风险不仅仅是传统的黑客攻击和数据泄露，例如我们的银行账户。更重要的是，我指的是生活的许多方面都受到人工智能（AI）算法的影响。我们假设这些AI算法本质上是为了我们的最佳利益而设计的。然而，当错误的偏见进入这些算法时会发生什么？这会如何影响某些结果？当有偏见的算法渗透到AI系统中会发生什么？为了提供另一个例子，在 YouTube 上，一个AI算法推荐了几乎70%的所有视频，在Instagram和TikTok等社交媒体平台上，这个百分比甚至更高。虽然这些AI算法可以帮助用户找到他们感兴趣的内容，但它们也引发了严重的隐私问题，并且有越来越多的证据表明，人们在线上消费的某些推荐内容是危险的，因为它们包含了虚假信息或可能包含了某种设计用来潜移默化地影响人们的政治思想或信仰的观点。创建一个全面的、适应性强的AI是一个具有挑战性的技术和社会事业，但也是最重要的意义之一。可以理解的是，AI可能对社会规范和在线使用模式产生负面影响，同时也关注技术的积极影响。在线来源对我们的社会有着重大影响，算法中的偏见会无意中滋生不公正，塑造人们的信仰，传播虚假信息，并在不同群体之间制造冲突。这就是“坏AI”可能产生真正重大后果的地方，因为它涉及到不想要和/或不公平的偏见。有偏见的AI如何对交通交叉口产生负面影响以交通交叉口为例，这是一个更为现实的例子。由于新AI技术的部署，交通信号灯的长时间等待正在成为过去。这些交通优先解决方案利用实时交通数据，并根据变化的交通模式调整信号灯，以保持交通流动和减少拥堵。这些系统使用 深度学习，其中一个程序理解当它不做得好时会尝试不同的行动方案，或者在它取得进展时继续改进。听起来像是一个好主意，对吧？如果随着时间的推移，嵌入交通传感器技术的AI算法开始优先考虑更昂贵的车辆而不是其他车辆，基于设计用来识别某些车辆比其他车辆更值得优先考虑的偏见算法会发生什么呢？这就是“坏AI”可能对我们生活的重要部分产生负面影响的地方。让我们以这些AI驱动的交通优先系统为例，它们是更大型智能交通系统（ITS）的一部分，利用了连接车辆技术的力量。ITS系统的好坏取决于它们运行的基于云的数据共享平台，而不是所有平台都是相同的。消除AI算法中的偏见这些数据共享平台已被证明是非常有效的，但仅当城市和交通系统的管理部门开放数据共享时，偏见算法是不允许参与的。不幸的是，许多市政机构仍然被锁定在与硬件和设备供应商的合同中，后者声称遵循“开放架构”，但不愿意在开放的数据平台上合作，这些城市严重限制了自己在基于云的平台上可以获得的真正可能性。基于云的交通优先系统考虑了整个系统的全局，并使用无偏见的数据驱动机器学习来预测授予交通车辆绿灯的最佳时间。它最小化了与交叉路线的干扰，并同时最大化了连续驾驶的可能性。更重要的是，基于云的平台确保城市利用不断更新的系统来实现最大化的交通潜力，而不会受到不想要的来源的偏见。随着这项技术的广泛应用，城市、开发商和市政机构拥有了他们需要的技术来正确地加速智能交通网络的建设，以造福该地区的所有人，公平公正地。像圣何塞市这样的地区现在正在利用AI的优势来改善对其居民的服务。随着城市越来越多地使用AI工具，确保这些AI系统是有效和可靠的就变得更加重要。通过审查其工具中使用的算法，数字隐私办公室（DPO）确保城市的AI驱动技术采购准确、最小化偏见并可靠。当一个城市部门希望采购AI工具时，DPO遵循特定的审查流程来评估任何AI系统的利弊和风险。对于这个特定的地区，我们很自豪能够加入像谷歌这样的公司，成为少数几个因其无偏见算法而被批准参与城市范围内技术部署的AI供应商之一。随着更多的AI技术被开发，确保它们是没有任何偏见算法的将变得尤为重要，以实现对本地市政服务的真正公平和公正的使用。