KI: Von den Menschen, für die Menschen und für die Menschen

Von: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, KI und Automation bei Infosys.

Wir sind glücklich, in einem Zeitalter der Technologie zu leben, in dem künstliche Intelligenz (KI) so hart arbeitet, um unser Leben einfacher zu machen – unsere Telefone erkennen uns jetzt und entsperren, wenn sie uns “sehen”, wir haben sprechende Karten, die uns helfen, den kürzesten, wenigsten überfüllten Weg zu finden, um uns dorthin zu bringen, wo wir hinwollen, intelligente Geräte, die unsere Häuser erwärmen und kühlen, bevor wir ein Wort sagen, intelligente Apps, die Betrug vorhersagen und verhindern, und vieles mehr.

Wir hatten jedoch auch Fälle, in denen diese intelligenten KI-gesteuerten Systeme uns aus fairen und ethischen Gründen im Stich gelassen haben. Zum Beispiel vermutete eine renommierte Bank, die mit uns zusammenarbeitet, dass die KI-Modelle, die sie zur Bewertung der Kreditwürdigkeit vor der Gewährung von Krediten verwendet, voreingenommen sein könnten, und sie bat uns um Hilfe. Ein anderer Fall war ein Maschinenhersteller, der mit uns zusammenarbeitete, um Muster von Garantieansprüchen zu analysieren und Voreingenommenheit aus dem Datensatz und dem Prozess zu eliminieren, bevor er den Genehmigungsprozess für Garantieansprüche neu konzipierte und automatisierte. Bei rekrutierungsbezogenen KI-Modellen stellen wir oft fest, dass sie durch Voreingenommenheit in Bezug auf Alter, Geschlecht, Rasse oder sogar Postleitzahl in ihren Datensätzen korrupt sind – was zu ungerechten Ergebnissen führen kann, wenn sie nicht überwacht werden.

Aufgrund der enormen Auswirkungen, die KI-Voreingenommenheit in der gesamten Unternehmung haben kann, stehen ethische Fragen im Mittelpunkt der Entwicklung, Implementierung und Nutzung von KI-Systemen. KI-Systeme sind die Kombination vieler menschlicher Entscheidungen, die inhärent auch von menschlichen Voreingenommenheiten geprägt sind. Der Schutz der Autonomie und Privatsphäre der Mitarbeiter, die Risiken von Voreingenommenheit, die die Karriereentwicklung und Chancen beeinträchtigen, Diskriminierung aufgrund von Hautfarbe, Rasse oder Geschlecht, das Fehlen von Erklärbarkeit der von KI-Lösungen getroffenen Entscheidungen und damit die Rechenschaftspflicht der KI-Entscheidungsfindung werden heftig diskutiert, wenn es um die Diskussion von KI und ihren Vorzügen geht.

Erstellung verantwortungsvoller KI

KI-Voreingenommenheit kann eine Welleneffekt in der gesamten Organisation haben. Es ist daher wichtig, dass IT-Führungskräfte sicherstellen, dass sie KI auf ethische Weise einsetzen, die mit und nicht gegen die Mitarbeiter arbeitet. Um dies zu erreichen, sollten Organisationen die folgenden Aspekte in ihre KI-Einsätze aufnehmen.

Datengovernance: Die ethische Nutzung von KI setzt auch eine gut geregelte Nutzung von Daten voraus, beginnend mit der ethischen und transparenten Beschaffung von Daten. Dazu sollten IT-Führungskräfte einen gut definierten Governance-Rahmen erstellen, der die Datensicherheit, -integrität und -privatsphäre sowie die Verhinderung von Datenkorruption und -verlust sicherstellt.

Rechenschaftspflicht: Machine-Learning-Modelle müssen fair, unvoreingenommen und gleichberechtigt behandeln und die Vorteile gleichmäßig verteilen (ähnliche Akzeptanz- und Ablehnungsrate) über alle Attribute wie Rasse, Religion, Geschlecht usw. Sie müssen eine akzeptable Genauigkeit nicht nur in der Gesamtzahl, sondern auch in den Minderheitsklassen erreichen. Diese Modelle müssen erklärbar sein, wenn es um die Darstellung der Entscheidungsfindung geht. Zum Beispiel sollte man erklären können, warum das Modell einen Kreditantrag von Antragsteller A ablehnte, aber den gleichen Antrag von Antragsteller B genehmigte. IT-Führungskräfte, die KI-Lösungen entwickeln, müssen die zugrunde liegende Logik, die diese Entscheidungen steuert, den Geschäftspartnern transparent machen, um eine größere Transparenz innerhalb der Unternehmung zu gewährleisten.

Adversarial Robustness: Das gesamte KI-Ökosystem muss sich auf die Notwendigkeit einigen, KI-Modelle durch Simulationen zu testen und zu hacken, um potenzielle negative Ergebnisse zu untersuchen. Zum Beispiel können IT-Führungskräfte die folgenden Tests verwenden, um ihre KI-Systeme zu überprüfen und auf mögliche Hindernisse vorzubereiten.

• Daten modifizieren: direkt die für die Schulung verwendeten Datensätze durch Dateninjektion, -modifizierung und -logikkorruption ändern
• Modelle modifizieren: auf Konfidenzreduzierung und Fehlklassifizierung testen
• Hilfsmittel: Werkzeuge verwenden, um die Ergebnisse zu beeinflussen oder zu korruptieren

Mensch im Entscheidungsprozess: KI-Modelle müssen durch die Einbindung von Menschen in alle wichtigen Entscheidungspunkte und durch die Bereitstellung eines effektiven Notfallmechanismus oder einer alternativen Lösung, wenn das KI-System zurückgezogen werden muss, entschärft werden.

Entwicklung sozialer Zustimmung für KI

Zusätzlich zu diesen Richtlinien müssen wir inklusive Diskussionen und Beratungen zwischen allen Führungskräften innerhalb der Unternehmung fördern, um die Vorteile, Interessen, Kosten und Konsequenzen jeder großen KI-Implementierung zu diskutieren. Nur durch solche inklusiven Prozesse, an denen alle Beteiligten teilnehmen, um akzeptable Ergebnisse zu diskutieren und zu entscheiden und die Risiken und Vorteile abzuwägen, kann die KI-Technologie die Erlaubnis erhalten, in der gesamten Unternehmung zu operieren.