Wie Unternehmen verantwortungsvolle und transparente KI erstellen können – Thought Leaders

Von Eric Paternoster, CEO von Infosys Public Services

Sundar Pichai, CEO des Mutterunternehmens von Google, Alphabet, hat die Entwicklungen im Bereich KI als “tiefgreifender als Feuer oder Elektrizität” bezeichnet, und COVID-19 hat eine neue Dringlichkeit bei der Erfüllung des Versprechens dieser Technologie gebracht. Anwendungen von KI stehen nun fest im Rampenlicht, verbessern COVID-Behandlungen, verfolgen potenzielle COVID-Überträger und setzen Echtzeit-Chatbots für benachteiligte Nutzer von Einzelhandels-Websites ein. Diese Anwendungen haben gezeigt, dass KI die Widerstandsfähigkeit eines Unternehmens verbessert und der breiteren Gesellschaft zugutekommt.

So könnte neben “cloud-native” das Schlagwort des letzten Quartals “KI-First-Transformation” sein, ein Begriff, den Branchenpraktiker glauben, der auch nach COVID bleiben wird. Für viele Unternehmen ist das Versprechen von geringeren Kosten (z. B. Supply-Chain-Algorithmen, die Angebot und Nachfrage abgleichen) und lobenswerten Produktivitätssteigerungen (z. B. wenn Banken Dokumente und Identitäten in Echtzeit überprüfen) einfach zu gut, um es zu ignorieren.

Warum KI-First-Transformation?

Bei der KI-First-Transformation verwendet ein Unternehmen KI als Leitstern, um sie nicht nur intelligent, sondern auch so einzusetzen, dass sie Entscheidungen von Menschen, Prozessen und Systemen im großen Maßstab beeinflusst. Sie stimmt Organisationen auf veränderte Dynamiken zwischen Mitarbeitern, Partnern und Kunden ab. Dies ermöglicht es ihnen, schnell zu reagieren und sich verändernden Anforderungen anzupassen, während sie gleichzeitig einen langfristigen Wettbewerbsvorteil schaffen.

Aber nicht alle Unternehmen sind auf dem gleichen Niveau der KI-Reife. Es gibt einige, die als “konventionelle KI-Gruppe” oder H1 bezeichnet werden können. Diese Unternehmen, die weniger Erfahrung und Investitionen haben, verwenden in der Regel klassische Algorithmen wie Naive Bayes, die bereits seit 250 Jahren existieren, oder Random Forest (entwickelt von Tin Kam Ho im Jahr 1995), um fragmentierte Intelligenz innerhalb bestehender Systeme zu ergänzen. Derartige KI-Anwendungen sind streng regelbasiert und ziemlich starr, sie verfügen nicht über die Fähigkeit, von den Regeln, die sie entdecken, abzuweichen. Dann gibt es die “Deep-Learning-Gruppe” oder H2. Diese Unternehmen umfassen komplexere KI, einschließlich neuronaler Maschinentranslationen und transkriptionsbasierter Systeme, um konversationelle Erkenntnisse zu gewinnen. Solche Systeme haben mehr Power, können aber nicht leicht erklären, warum sie die Dinge tun, die sie tun. Sie verfügen auch nicht über Transparenz. Für diese beiden Gruppen ist die verwendete KI oft nicht vertrauenswürdig oder zuverlässig und kann voreingenommene Entscheidungen treffen, die dem Unternehmen negative Aufmerksamkeit von Regierungsbehörden, Aufsichtsbehörden und der Allgemeinheit einbringen.

Diese Unternehmen müssen jetzt Schritte unternehmen, um ihre KI-Implementierungen einen Schritt weiter zu bringen – in ein drittes Lager (H3), in dem KI selbstlernend und generativ ist. An diesem Punkt sind KI-Systeme halbüberwacht oder sogar unbeaufsichtigt. Sie sind transparent und erreichen “gesunden Menschenverstand” durch Multitask-Lernen. Diese Systeme liefern reichere Intelligenz und bieten Echtzeit-, handhabbare Erkenntnisse. Dies geschieht durch gut gemanagte, regierte KI, die interpretierbar und erklärbar ist.

Wie man verantwortungsvolle und transparente KI umsetzt

KI wird zunehmend verwendet, um Schulen, Arbeitsplätze und andere öffentliche Einrichtungen zu verwalten. In diesen Umgebungen ist es wichtiger denn je, dass die KI fair und transparent ist. Da jedoch die Gesellschaft durch diese Explosion der KI-Adoption geht, bieten regulatorische Behörden nur begrenzte Richtlinien für die Entwicklung und den Einsatz von KI-Technologien. Daher liegt die Verantwortung bei den Unternehmen, die Führung zu übernehmen. Die breitere Tech-Branche muss finanzielle Ressourcen und Humankapital einsetzen, um anfängliche Implementierungen von fragmentierter KI in effiziente, kreative, verantwortungsvolle und transparente intelligente Ökosysteme umzuwandeln. Um in diesen Bereich zu gelangen, sollten Unternehmen folgende vier Dinge tun:

• Menschen in die Schleife einbeziehen: KI-Modelle sind oft so konzipiert, dass sie unabhängig von Menschen arbeiten. Der menschliche Faktor ist jedoch in vielen Fällen von entscheidender Bedeutung. Menschen müssen Entscheidungen überprüfen und Vorurteile und Fehler vermeiden, die KI-Projekte oft behindern. Zwei Anwendungsfälle umfassen Betrugsbekämpfung und Fälle, in denen Strafverfolgungsbehörden involviert sind. Wir empfehlen Unternehmen, KI-Praktiker langsam, aber stetig über die Zeit zu beschäftigen, um einen Vorsprung auf ihrer KI-First-Reise zu erlangen.
• Voreingenommene Datensätze eliminieren: Ein unvoreingenommener Datensatz ist eine kritische Voraussetzung, um zuverlässige, faire und nicht diskriminierende KI-Modelle zu erstellen. Um die Bedeutung zu verstehen, wird KI für die Auswertung von Lebensläufen und Kreditbewertungen von Banken verwendet und hat sogar ihren Weg in einige Justizsysteme gefunden. In diesem Umfeld haben unkontrollierte Vorurteile sehr reale Auswirkungen gehabt.
• Sicherstellen, dass Entscheidungen erklärbar sind: Diese Funktion wurde von vielen großen Nachrichtenagenturen behandelt und zu Recht. XAI hilft, zu erklären, warum ein KI-System eine bestimmte Entscheidung getroffen hat. Es deckt auf, welche Funktionen des Deep-Learning-Modells mehr als andere verwendet wurden, um seine Vorhersage oder Hypothese zu treffen. Das Verständnis der Funktionswichtigkeit und die Fähigkeit, zu rechtfertigen, wie Entscheidungen getroffen werden, sind für Anwendungsfälle wie autonome Fahrzeuge und Computer-Vision, die in medizinischen Biopsien verwendet werden, von entscheidender Bedeutung.
• Zuverlässig Ergebnisse reproduzieren: Eine gängige Notwendigkeit in Forschungsprojekten sollten KI-Modelle konsistent sein, wenn sie Vorhersagen über die Zeit hinweg treffen. Solche Modelle sollten nicht von neuen Daten beeinflusst werden.

Diese vier Dinge werden transparente, intelligente Ökosysteme schaffen, die in Richtung dessen fortschreiten, was wir als “lebendes Unternehmen” bezeichnen. Hier werden unvoreingenommene, erklärbare Entscheidungen in nahezu Echtzeit getroffen, und das gesamte Unternehmen agiert als ein von Menschen regiertes, empfindungsfähiges Organ. Lesen Sie das Whitepaper des Infosys Knowledge Institute, um mehr zu erfahren.