Wenn Branchen auf eine beschleunigte KI-Adoption vorbereitet sind, liegt der Fokus neu auf Ethik und Verantwortung

Von: Pandurang Kamat, CTO von Persistent Systems

Künstliche Intelligenz (KI) ist in ihrem Kern Maschinelles Lernen (ML), der Prozess, durch den Maschinen lernen, ihre Leistung auf der Grundlage von Dateninputs zu verbessern. Die enorme Menge an vorhandenen Daten heute bedeutet, dass KI fruchtbaren Boden hatte, um zu gedeihen, in den letzten Jahren mit atemberaubendem Tempo zu beschleunigen. Und das Versprechen von KI hat Technologen und Führungskräfte in weitreichenden Branchen dazu gebracht, kreativ über ihre verschiedenen Anwendungen nachzudenken.

Ab der industriellen Revolution ist jede Periode des raschen technologischen Fortschritts von gleichen Teilen von Begeisterung und Besorgnis geprägt. Der World Wide Web Consortium (W3C), eine Gruppe, die Industriestandards für Webentwickler erstellt, weist darauf hin, dass “es ein zunehmendes Bewusstsein dafür gibt, dass die Anwendung von Maschinellem Lernen Risiken birgt und zu Schäden führen kann” – einschließlich in Bereichen wie: Bias, Privatsphäre, Sicherheit, Nachhaltigkeit und allgemeine Rechenschaftspflicht.

“Es gibt einen klaren Bedarf an einem ethischen Ansatz für ML, wie er durch Aktivisten aus der Zivilgesellschaft, dem Auftauchen von ~100 Sätzen ethischer KI-Prinzipien weltweit und Regierungsmaßnahmen auf der ganzen Welt zur Regulierung von KI zu sehen ist”, schrieb die Gruppe. “Wenn Technologien nicht mit den Werten der Gesellschaften, in denen sie operieren, übereinstimmen, riskieren sie, diese zu untergraben.”

Wählen Sie Weise

Auf den ersten Blick ist es schwer zu argumentieren, dass eine verbesserte Geschwindigkeit und Ausgabe schlecht für das Geschäft sind. Aber für bestimmte Branchen steht viel auf dem Spiel bei der Entscheidungsfindung, die nicht einem Algorithmus überlassen werden sollte. Wenn wir uns einige der größten Branchen ansehen, können wir sehen, wie verletzlich wir gegenüber Maschinenfehlern sind und warum verantwortungsvolle KI so wichtig ist.

Banking, Finanzdienstleistungen und Versicherungen (BFSI)

Der Weltwirtschaftsforum (WEF) und Deloitte untersuchten den Prozess der Einrichtung von KI in BFSI-Unternehmen und fanden heraus, dass “während KI hilfreiche Geschäftserkenntnisse aus einer überwältigenden Menge an Informationen erstellen kann”, die “Fremdheit von KI” eine Quelle von anhaltendem ernsthaftem Risiko sein wird.

“KI denkt auf unhumanen Wegen”, heißt es im Bericht. “KI-Systeme folgen nicht menschlichen Konstrukten der Logik und verhalten sich sehr anders als menschliche Akteure bei der gleichen Aufgabe. Darüber hinaus ermöglicht die selbstlernende Natur von KI-Systemen es ihnen, sich ohne menschliche Eingabe zu entwickeln, was zu unerwarteten Ergebnissen auf der Grundlage unbekannter Variablen führen kann.”
Befürworter verantwortungsvoller KI behaupten, dass Maschinelles Lernen ernsthafte Probleme in Dingen wie automatischer Risikobewertung, Kredit- und Kreditvergabeentscheidungen aufwirft, die historisch gegenüber bestimmten Demografien voreingenommen sind. Jüngste Studien haben gezeigt, dass Kreditgeber, die KI-basierte Entscheidungsmotoren verwendeten, eher dazu neigten, Hypotheken an Menschen mit dunkler Hautfarbe zu verweigern – in einigen Fällen 80% der schwarzen Antragsteller mehr als 2-mal so oft abgelehnt wurden.

Gesundheitswesen

Vor einigen Jahren untersuchte das Journal of the American Medical Association (JAMA) die Einführung von KI im Gesundheitswesen und fand heraus, dass die Herausforderungen zahlreich sind, einschließlich “unrealistischer Erwartungen, voreingenommener und nicht repräsentativer Daten, unzureichender Priorisierung von Gleichheit und Inklusion, des Risikos, Gesundheitsunterschiede zu verschärfen, geringer Vertrauenswerte und unsicherer regulatorischer Umgebungen”.

Das ist nicht gerade eine überzeugende Empfehlung, aber es gibt eine höhere Messlatte für verantwortungsvolle KI im Gesundheitswesen, insbesondere angesichts ihres buchstäblichen lebensbedrohlichen Potenzials. Im Allgemeinen sind Gesundheitsfachleute optimistisch, aber vorsichtig in Bezug auf die Zukunft von KI und konzentrieren sich auf die Ausbildung anderer Praktiker über die Verwendung von KI im klinischen Umfeld und die Erstellung von Richtlinien, wie man verantwortungsvoll vorankommen kann, um allen Patienten zu nützen.

Medien

PwC schätzt, dass KI bis 2030 15,7 Billionen US-Dollar an globalem Wirtschaftswachstum liefern wird, aber laut Salesforce vertrauen weniger als die Hälfte (48%) der Kunden Unternehmen, die KI ethisch einsetzen, und 65% sind besorgt über den unethischen Einsatz von KI. Am Schnittpunkt von Profiten und Vertrauen gibt es Medienunternehmen – frühe Anwender mit großer Reichweite und Einfluss. Und es gibt Bedenken hinsichtlich der Tatsache, dass KI keine “set it and forget it”-Anwendung ist, was bedeutet, dass Medienunternehmen nicht nur für die Produktion von Inhalten, sondern auch für deren kontinuierliche Überwachung nach der Bereitstellung verantwortlich sind.

Wie werden Anzeigen ausgeliefert und personalisiert? Wie erreicht der Inhalt ein bestimmtes Publikum, und was ist die Botschaft? Wer unterrichtet die KI, “wie” sie lernen soll? Und wie kann man bestimmte Verbraucher ansprechen, während man gleichzeitig die Privatsphäre respektiert? Das sind nur einige der Fragen, die Medienunternehmen beschäftigen, während sie Ethik mit dem Erreichen eines Wettbewerbsvorteils in Einklang bringen.

Die Antwort auf Verantwortung

Der Fortschritt bei der Entwicklung verantwortungsvoller KI ist jeden Tag erkennbar – Gesetzgeber erstellen Vorschriften, Verbraucher fordern mehr Transparenz, und viele Unternehmen haben spezielle Abteilungen eingerichtet, um sicherzustellen, dass ihre KI angemessen eingesetzt wird. Unternehmen benötigen einen gut definierten Rahmen für verantwortungsvolle KI, der Ethik, Transparenz, Rechenschaftspflicht, Fairness, Privatsphäre und Sicherheit umfasst. Wenn Debatten und Reformen weitergehen, bietet eine jüngste gemeinsame Studie von MIT Sloan Management Review und Boston Consulting Group einige einfache allgemeine Richtlinien – sie schrieben: “Wenn Sie ein verantwortungsvoller KI-Führer sein möchten, konzentrieren Sie sich darauf, ein verantwortungsvolles Unternehmen zu sein.”
rs Ethik, Transparenz, Rechenschaftspflicht, Fairness, Privatsphäre und Sicherheit. Wenn Debatten und Reformen weitergehen, bietet eine jüngste gemeinsame Studie von MIT Sloan Management Review und Boston Consulting Group einige einfache allgemeine Richtlinien – sie schrieben: “Wenn Sie ein verantwortungsvoller KI-Führer sein möchten, konzentrieren Sie sich darauf, ein verantwortungsvolles Unternehmen zu sein.”