AI 101
Was ist verantwortungsvolle KI? Prinzipien, Herausforderungen und Vorteile
Verantwortliche KI (RAI) bezieht sich auf die Gestaltung und Bereitstellung von KI-Systemen, die transparent, unvoreingenommen und rechenschaftspflichtig sind und ethischen Richtlinien folgen. Da KI-Systeme immer robuster und verbreiteter werden, ist es von entscheidender Bedeutung, sicherzustellen, dass sie verantwortungsvoll entwickelt werden und Sicherheits- und ethische Richtlinien einhalten.
Gesundheit, Transport, Netzwerkmanagement und Überwachung sind sicherheitskritische KI-Anwendungen wo ein Systemausfall schwerwiegende Folgen haben kann. Große Unternehmen sind sich bewusst, dass RAI für die Minderung von Technologierisiken unerlässlich ist. Doch laut einem MIT Sloan/BCG-Bericht, an dem 1093 Befragte teilnahmen, 54% der Unternehmen fehlten Fachwissen und Talente im Bereich verantwortungsvolle KI.
Obwohl Vordenker und Organisationen Prinzipien für verantwortungsvolle KI entwickelt haben, stellt die Gewährleistung der verantwortungsvollen Entwicklung von KI-Systemen immer noch Herausforderungen dar. Lassen Sie uns diese Idee im Detail untersuchen:
5 Prinzipien für verantwortungsvolle KI
1. Gerechtigkeit
Technologen sollten Verfahren so gestalten, dass KI-Systeme alle Einzelpersonen und Gruppen fair und unvoreingenommen behandeln. Daher ist Fairness die Hauptanforderung bei Anwendungen zur Entscheidungsfindung mit hohem Risiko.
Fairness ist definiert als:
„Untersuchung der Auswirkungen auf verschiedene demografische Gruppen und Auswahl einer von mehreren mathematischen Definitionen der Gruppengerechtigkeit, die den gewünschten Satz rechtlicher, kultureller und ethischer Anforderungen angemessen erfüllt.“
2 Rechenschaftspflicht
Rechenschaftspflicht bedeutet, dass Einzelpersonen und Organisationen, die KI-Systeme entwickeln und einsetzen, für ihre Entscheidungen und Handlungen verantwortlich sein sollten. Das Team, das KI-Systeme einsetzt, sollte sicherstellen, dass sein KI-System transparent, interpretierbar und überprüfbar ist und der Gesellschaft keinen Schaden zufügt.
Zur Rechenschaftspflicht gehört sieben Komponenten:
- Kontext (Zweck, für den Rechenschaftspflicht erforderlich ist)
- Reichweite (Gegenstand der Verantwortlichkeit)
- Agent (wer ist verantwortlich?)
- Forum (bei dem sich der Verantwortliche melden muss)
- Standards (Kriterien für die Rechenschaftspflicht)
- Prozess (Methode der Rechenschaftspflicht)
- Implikationen (Konsequenzen der Rechenschaftspflicht)
3. Transparent
Transparenz bedeutet, dass der Grund für die Entscheidungsfindung in KI-Systemen klar und verständlich ist. Transparente KI-Systeme sind erklärbar.
Laut Bewertungsliste für vertrauenswürdige künstliche Intelligenz (ALTAI)Transparenz besteht aus drei Schlüsselelementen:
- Rückverfolgbarkeit (die Daten, Vorverarbeitungsschritte und das Modell sind zugänglich)
- Erklärbarkeit (die Gründe für die Entscheidungsfindung/Vorhersage sind klar)
- Offene Kommunikation (hinsichtlich der Begrenzung des KI-Systems)
4. Privatleben
Datenschutz ist eines der Hauptprinzipien verantwortungsvoller KI. Es bezieht sich auf den Schutz personenbezogener Daten. Dieser Grundsatz stellt sicher, dass personenbezogene Daten von Personen mit Einwilligung erfasst und verarbeitet werden und nicht in die Hände von Unzufriedenen gelangen.
Wie sich kürzlich herausstellte, gab es einen Fall von Clearview, einem Unternehmen, das Gesichtserkennungsmodelle für Strafverfolgungsbehörden und Universitäten herstellt. Großbritanniens Datenwächter verklagte Clearview AI auf 7.5 Millionen Pfund für das Sammeln von Bildern von Einwohnern des Vereinigten Königreichs aus sozialen Medien ohne Zustimmung, um eine Datenbank mit 20 Milliarden Bildern zu erstellen.
5. Sicherheit
Sicherheit bedeutet sicherzustellen, dass KI-Systeme sicher sind und die Gesellschaft nicht bedrohen. Ein Beispiel für eine KI-Sicherheitsbedrohung ist gegnerische Angriffe. Diese böswilligen Angriffe verleiten ML-Modelle dazu, falsche Entscheidungen zu treffen. Der Schutz von KI-Systemen vor Cyberangriffen ist für eine verantwortungsvolle KI unerlässlich.
4 große Herausforderungen und Risiken einer verantwortungsvollen KI
1. Voreingenommenheit
Menschliche Vorurteile in Bezug auf Alter, Geschlecht, Nationalität und Rasse können sich auf die Datenerfassung auswirken und möglicherweise zu voreingenommenen KI-Modellen führen. Studie des US-Handelsministeriums fanden heraus, dass Gesichtserkennungs-KI farbige Menschen falsch identifiziert. Daher kann der Einsatz von KI zur Gesichtserkennung bei der Strafverfolgung zu unrechtmäßigen Festnahmen führen. Außerdem ist es eine Herausforderung, faire KI-Modelle zu erstellen, weil es welche gibt 21 verschiedene Parameter, um sie zu definieren. Es gibt also einen Kompromiss; Einen fairen KI-Parameter zu erfüllen bedeutet, einen anderen zu opfern.
2. Interpretierbarkeit
Interpretierbarkeit ist eine entscheidende Herausforderung bei der Entwicklung verantwortungsvoller KI. Es bezieht sich auf das Verständnis, wie das Modell des maschinellen Lernens zu einer bestimmten Schlussfolgerung gelangt ist.
Tiefe neuronale Netze sind nicht interpretierbar, da sie als Black Boxes mit mehreren Schichten verborgener Neuronen funktionieren, was es schwierig macht, den Entscheidungsprozess zu verstehen. Dies kann bei wichtigen Entscheidungen wie Gesundheitswesen, Finanzen usw. eine Herausforderung darstellen.
Darüber hinaus ist die Formalisierung der Interpretierbarkeit in ML-Modellen eine Herausforderung, weil sie es ist subjektiv machen domänenspezifisch.
3. Führung
Unter Governance versteht man eine Reihe von Regeln, Richtlinien und Verfahren, die die Entwicklung und den Einsatz von KI-Systemen überwachen. In jüngster Zeit gab es erhebliche Fortschritte im KI-Governance-Diskurs, da Organisationen Rahmenwerke und ethische Richtlinien vorlegten.
Ethikrichtlinien für vertrauenswürdige KI durch die EU, Australischer KI-Ethikrahmen und OECD-KI-Grundsätze sind Beispiele für KI-Governance-Frameworks.
Aber die rasanten Fortschritte in der KI in den letzten Jahren können diese KI-Governance-Rahmenwerke übertreffen. Zu diesem Zweck muss es einen Rahmen geben, der die Fairness, Interpretierbarkeit und Ethik von KI-Systemen bewertet.
4. Verordnung
Mit zunehmender Verbreitung von KI-Systemen bedarf es einer Regulierung, die ethische und gesellschaftliche Werte berücksichtigt. Die Entwicklung von Vorschriften, die die KI-Innovation nicht behindern, ist eine entscheidende Herausforderung für verantwortungsvolle KI.
Selbst mit der Datenschutz-Grundverordnung (DSGVO), dem California Consumer Privacy Act (CCPA) und dem Personal Information Protection Law (PIPL) als Regulierungsbehörden haben KI-Forscher dies herausgefunden 97% der EU-Websites erfüllen nicht die rechtlichen Rahmenbedingungen der DSGVO.
Darüber hinaus stehen die Gesetzgeber vor einer große Herausforderung dabei, einen Konsens über die Definition von KI zu erzielen, die sowohl klassische KI-Systeme als auch neueste KI-Anwendungen umfasst.
3 Hauptvorteile verantwortungsvoller KI
1. Reduzierte Voreingenommenheit
Verantwortungsvolle KI reduziert Voreingenommenheit in Entscheidungsprozessen und schafft Vertrauen in KI-Systeme. Die Verringerung der Voreingenommenheit in KI-Systemen kann zu einem fairen und gleichberechtigten Gesundheitssystem führen und die Voreingenommenheit in KI-basierten Systemen verringern Finanzdienstleistungen usw.
2. Verbesserte Transparenz
Responsible AI macht transparente KI-Anwendungen, die Vertrauen in KI-Systeme aufbauen. Transparente KI-Systeme das Risiko von Fehlern und Missbrauch verringern. Eine verbesserte Transparenz erleichtert die Prüfung von KI-Systemen, gewinnt das Vertrauen der Interessengruppen und kann zu verantwortungsvollen KI-Systemen führen.
3. Bessere Sicherheit
Sichere KI-Anwendungen gewährleisten den Datenschutz, erzeugen vertrauenswürdige und harmlose Ergebnisse und sind sicher vor Cyberangriffen.
Tech-Giganten mögen Microsoft machen Google, die an der Spitze der Entwicklung von KI-Systemen stehen, haben Prinzipien für verantwortungsvolle KI entwickelt. Eine verantwortungsvolle KI stellt sicher, dass die Innovation in der KI weder dem Einzelnen noch der Gesellschaft schadet.
Vordenker, Forscher, Organisationen und Justizbehörden sollten die Literatur zu verantwortungsvoller KI kontinuierlich überarbeiten, um eine sichere Zukunft für KI-Innovationen zu gewährleisten.
Weitere KI-bezogene Inhalte finden Sie unter unite.ai.
