Wie Städte führende Technologien mit unvoreingenommenen KI-Algorithmen einsetzen

Heute berührt fast jeder Aspekt unseres Lebens einen Teil eines Online-Netzwerks. Während dies viele Bereiche des Lebens verbessert hat, wie zum Beispiel, wie wir mit Handheld-Geräten umherlaufen, die uns Informationen jederzeit liefern können, birgt es auch bestimmte Risiken.

Diese Risiken gehen über traditionelles Hacken und Datenlecks in unsere Bankkonten hinaus, zum Beispiel. Was ich hier eher meine, ist, dass es so viele Teile unseres Lebens gibt, die von Algorithmen beeinflusst werden, die von künstlicher Intelligenz (KI) verwendet werden. Wir gehen davon aus, dass diese KI inhärent Algorithmen verwendet, die in unserem besten Interesse sind. Aber was passiert, wenn der falsche Typ von Voreingenommenheit in diese Algorithmen eindringt? Wie kann das bestimmte Ergebnisse beeinflussen?

Was passiert, wenn voreingenommene Algorithmen in KI-Systeme eindringen?

Um ein weiteres Beispiel zu geben, auf YouTube empfiehlt ein KI-Algorithmus fast 70% aller Videos, und auf sozialen Medien-Plattformen wie Instagram und TikTok ist der Prozentsatz sogar höher. Obwohl diese KI-Algorithmen den Benutzern helfen können, Inhalte zu finden, die sie interessieren, werfen sie ernsthafte Datenschutzprobleme auf, und es gibt zunehmende Beweise dafür, dass einige der empfohlenen Inhalte, die Menschen online konsumieren, sogar gefährlich sind, weil sie Fehlinformationen enthalten oder eine bestimmte Perspektive haben, die darauf abzielt, die politische Denkweise oder Überzeugung einer Person subliminal zu beeinflussen.

Die Schaffung einer umfassenden, anpassungsfähigen KI ist ein herausforderndes technisches und soziales Unterfangen, aber eines von größter Bedeutung.

Es ist verständlich, wie KI einen negativen Einfluss auf gesellschaftliche Normen und Online-Nutzungsmuster haben kann, während sie gleichzeitig auf die positiven Effekte der Technologie fokussiert. Online-Quellen haben einen erheblichen Einfluss auf unsere Gesellschaft, und Voreingenommenheiten in Online-Algorithmen werden ungewollt Ungerechtigkeit fördern, die Überzeugungen der Menschen prägen, falsche Informationen verbreiten und Konflikte zwischen verschiedenen Gruppen schüren.

Dies ist der Punkt, an dem “schlechte KI” wirklich erhebliche Konsequenzen haben kann, insbesondere im Hinblick auf unerwünschte und/oder ungerechte Voreingenommenheiten.

Wie voreingenommene KI den Verkehr an Kreuzungen negativ beeinflussen kann

Nehmen wir den Verkehr an Kreuzungen als ein realeres Beispiel. Lange Wartezeiten an Ampeln werden dank neuer KI-Technologien, die in Märkten im ganzen Land eingesetzt werden, zu einer Sache der Vergangenheit. Diese Transit-Prioritätslösungen nutzen Echtzeit-Verkehrsdaten und passen die Ampeln an, um sich an veränderte Verkehrsmuster anzupassen, den Verkehr flüssig zu halten und Staus zu reduzieren.

Die Systeme verwenden tiefes Lernen, bei dem ein Programm versteht, wenn es nicht gut funktioniert, und einen anderen Kurs versucht – oder weiterhin verbessert, wenn es Fortschritte macht.

Klingt wie eine großartige Idee, oder? Was passiert, wenn die KI-Algorithmen, die in der Verkehrssensortechnologie eingebettet sind, im Laufe der Zeit beginnen, teurere Fahrzeuge gegenüber anderen zu priorisieren, basierend auf voreingenommenen Algorithmen, die darauf ausgelegt sind, zu erkennen, dass Menschen, die ein bestimmtes Fahrzeug fahren, Vorrang vor anderen haben?

Dies ist der Punkt, an dem “schlechte KI” einen sehr wichtigen Teil unseres Lebens negativ beeinflussen kann.

Lassen Sie uns zum Beispiel nehmen, dass diese KI-gesteuerten Transit-Prioritäts-Systeme Teil eines größeren Intelligenten Verkehrssystems (IVS) sind, das die Kraft von Connected-Vehicle-Technologien nutzt. IVS-Systeme sind nur so gut wie die agnostischen, cloudbasierten Datenfreigabaplattformen, auf denen sie operieren, und nicht alle sind gleich.

Voreingenommenheit in KI-Algorithmen eliminieren

Diese Datenfreigabaplattformen haben sich als sehr effektiv erwiesen, aber nur, wenn Städte und Gemeinden, die Verkehrssysteme überwachen, sie für eine ordnungsgemäße Datenfreigabe öffnen, bei der voreingenommene Algorithmen nicht teilnehmen dürfen. Leider bleiben viele Gemeinden in Verträgen mit Hardware- und Geräteanbietern, die behaupten, unter “offener Architektur” zu operieren, aber nicht bereit sind, auf einer offenen Datenplattform zu arbeiten, und diese Städte beschränken sich selbst erheblich auf die wahren Möglichkeiten, die eine cloudbasierte Plattform bieten kann.

Cloudbasierte Transit-Priorisierungssysteme berücksichtigen das globale Bild eines Systems und verwenden unvoreingenommene, datenzentrierte maschinelles Lernen, um den optimalen Zeitpunkt zu bestimmen, um Transitfahrzeugen das Grüne Licht zu geben, genau zum richtigen Zeitpunkt. Sie minimieren die Störung von kreuzenden Routen und maximieren gleichzeitig die Wahrscheinlichkeit einer kontinuierlichen Fahrt. Wichtiger noch, die agnostische cloudbasierte Plattform stellt sicher, dass Städte ein kontinuierlich aktualisiertes System für maximiertes Transitpotenzial nutzen, ohne Voreingenommenheit von unerwünschten Quellen.

Mit dieser jetzt verfügbaren Technologie haben Städte, Entwickler und Gemeinden die Technologie, die sie benötigen, um den Aufbau intelligenter Transitnetze zu beschleunigen, um allen in der Region zu nützen, fair und gerecht.

Regionen wie die Stadt San José nutzen jetzt die Vorteile von KI, um die Lieferung von Dienstleistungen an ihre Einwohner zu verbessern. Da die Stadt immer mehr KI-Tools einsetzt, ist es wichtiger denn je, sicherzustellen, dass diese KI-Systeme effektiv und vertrauenswürdig sind. Durch die Überprüfung der in ihren Tools verwendeten Algorithmen stellt das Digital Privacy Office (DPO) sicher, dass die KI-gesteuerten Technologieerwerbungen der Stadt genau funktionieren, Voreingenommenheit minimieren und zuverlässig sind. Wenn ein Stadtdepartement einen KI-Tool erwerben möchte, folgt das DPO bestimmten Überprüfungsprozessen, um die Vorteile und Risiken jedes KI-Systems zu bewerten.

Für diese spezifische Region sind wir stolz darauf, Unternehmen wie Google zu einer der wenigen zugelassenen KI-Anbieter für stadtweite Technologieeinsätze zu gehören, wegen unvoreingenommener Algorithmen. Da immer mehr KI-Technologien entwickelt werden, wird es besonders wichtig sein, sicherzustellen, dass sie ohne voreingenommene Algorithmen gebaut werden, zum Nutzen einer wirklich fairen und gerechten Nutzung von lokalen kommunalen Dienstleistungen.