Künstliche Intelligenz
Technologie-Führer heben die Risiken von KI und die Dringlichkeit einer robusten KI-Regulierung hervor
Das Wachstum und die Fortschritte von KI sind in den letzten Jahren exponentiell gestiegen. Laut Statista wird der globale KI-Markt bis 2024 einen atemberaubenden Umsatz von etwa 3000 Milliarden Dollar erzielen, im Vergleich zu 126 Milliarden Dollar im Jahr 2015. Allerdings warnen Technologie-Führer nun vor den verschiedenen Risiken von KI.
Insbesondere die jüngste Welle von generativen KI-Modellen wie ChatGPT hat neue Fähigkeiten in verschiedenen datensensiblen Bereichen wie Gesundheitswesen, Bildung, Finanzen usw. eingeführt. Diese KI-gestützten Entwicklungen sind aufgrund vieler KI-Mängel anfällig, die bösartige Akteure ausnutzen können.
Lassen Sie uns besprechen, was KI-Experten über die jüngsten Entwicklungen sagen und die potenziellen Risiken von KI hervorheben. Wir werden auch kurz auf die Möglichkeiten eingehen, wie diese Risiken gemindert werden können.
Technologie-Führer und ihre Bedenken im Zusammenhang mit den Risiken von KI
Geoffrey Hinton
Geoffrey Hinton – ein berühmter KI-Technologie-Führer (und “Gottvater” dieses Fachgebiets), der kürzlich Google verlassen hat, hat seine Bedenken über die schnelle Entwicklung von KI und ihre potenziellen Gefahren geäußert. Hinton glaubt, dass KI-Chatbots “ziemlich beunruhigend” werden können, wenn sie die menschliche Intelligenz übersteigen.
Hinton sagt:
“Im Moment sehen wir Dinge wie GPT-4, die den Menschen in Bezug auf allgemeines Wissen bei weitem übersteigen, und sie übersteigen sie um einiges. In Bezug auf Argumentationsfähigkeit ist es nicht so gut, aber es kann bereits einfache Argumentationen durchführen. Und angesichts des Fortschrittsrates erwarten wir, dass sich Dinge schnell verbessern. Wir müssen uns also darüber Sorgen machen.”
Darüber hinaus glaubt er, dass “böse Akteure” KI für “böse Dinge” wie die Erlaubnis von Robotern, ihre Unterziele zu haben, nutzen können. Trotz seiner Bedenken glaubt Hinton, dass KI kurzfristige Vorteile bringen kann, aber wir sollten auch stark in KI-Sicherheit und -Kontrolle investieren.
Elon Musk
Elon Musks Engagement in KI begann mit seiner frühen Investition in DeepMind im Jahr 2010, gefolgt von der Mitgründung von OpenAI und der Integration von KI in Teslas autonome Fahrzeuge.
Obwohl er von KI begeistert ist, äußert er häufig Bedenken über die Risiken von KI. Musk sagt, dass leistungsstarke KI-Systeme gefährlicher für die Zivilisation sein können als Atomwaffen. In einem Interview bei Fox News im April 2023 sagte er:
“KI ist gefährlicher als, sagen wir, schlecht gestaltetes Flugzeugdesign oder -produktion oder schlechte Autoproduktion. Im Sinne, dass es das Potenzial hat – jedoch klein, wie man diese Wahrscheinlichkeit auch betrachten mag –, aber es ist nicht trivial und hat das Potenzial, die Zivilisation zu zerstören.”
Darüber hinaus unterstützt Musk staatliche Regulierungen von KI, um die Sicherheit vor potenziellen Risiken zu gewährleisten, obwohl “es nicht so lustig ist”.
Pause Giant AI Experiments: An Open Letter Backed by 1000s of AI Experts
Future of Life Institute veröffentlichte einen offenen Brief am 22. März 2023. Der Brief fordert eine vorübergehende sechsmonatige Pause bei der Entwicklung von KI-Systemen, die fortgeschrittener sind als GPT-4. Die Autoren äußern ihre Bedenken über den Tempo, mit dem KI-Systeme entwickelt werden, und die damit verbundenen schwerwiegenden sozioökonomischen Herausforderungen.
Darüber hinaus besagt der Brief, dass KI-Entwickler mit politischen Entscheidungsträgern zusammenarbeiten sollten, um KI-Regierungssysteme zu dokumentieren. Bis Juni 2023 wurde der Brief von über 31.000 KI-Entwicklern, -Experten und -Technologie-Führern unterzeichnet. Zu den prominenten Unterzeichnern gehören Elon Musk, Steve Wozniak (Mitgründer von Apple), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (Turing-Preisträger) und viele mehr.
Gegenargumente zur Einstellung der KI-Entwicklung
Zwei prominente KI-Führer, Andrew Ng und Yann LeCun, haben sich gegen die sechsmonatige Pause bei der Entwicklung von fortgeschrittenen KI-Systemen ausgesprochen und die Pause als schlechte Idee betrachtet.
Ng sagt, dass KI zwar einige Risiken birgt, wie z. B. Vorurteile, Konzentration von Macht usw., aber der Wert, den KI in Bereichen wie Bildung, Gesundheitswesen und responsivem Coaching schafft, enorm ist.
Yann LeCun sagt, dass Forschung und Entwicklung nicht gestoppt werden sollten, obwohl die KI-Produkte, die den Endbenutzer erreichen, reguliert werden können.
Was sind die potenziellen Gefahren und unmittelbaren Risiken von KI?
1. Jobverlust
KI-Experten glauben, dass intelligente KI-Systeme kognitive und kreative Aufgaben ersetzen können. Die Investmentbank Goldman Sachs schätzt, dass etwa 300 Millionen Jobs durch generative KI automatisiert werden.
Daher sollten Regulierungen für die Entwicklung von KI erlassen werden, um einen schweren wirtschaftlichen Abschwung zu vermeiden. Es sollten Bildungsprogramme für die Umschulung und Weiterbildung von Mitarbeitern geschaffen werden, um dieser Herausforderung zu begegnen.
2. Voreingenommene KI-Systeme
Vorurteile, die bei Menschen in Bezug auf Geschlecht, Rasse oder Farbe vorherrschen, können unbeabsichtigt in die Daten übergehen, die für die Schulung von KI-Systemen verwendet werden, und diese somit voreingenommen machen.
Zum Beispiel kann in der Personalbeschaffung ein voreingenommener KI-System die Lebensläufe von Personen aus bestimmten ethnischen Hintergründen ablehnen und somit Diskriminierung auf dem Arbeitsmarkt schaffen. In der Strafverfolgung kann voreingenommene Vorhersagepolizei bestimmte Stadtteile oder demografische Gruppen unverhältnismäßig stark betreffen.
Daher ist es wichtig, eine umfassende Datenstrategie zu haben, die die KI-Risiken, insbesondere Vorurteile, berücksichtigt. KI-Systeme müssen häufig bewertet und geprüft werden, um sicherzustellen, dass sie fair sind.
3. Sicherheitskritische KI-Anwendungen
Autonome Fahrzeuge, medizinische Diagnose und -behandlung, Avioniksysteme, Kernkraftwerkskontrolle usw. sind alle Beispiele für sicherheitskritische KI-Anwendungen. Diese KI-Systeme sollten vorsichtig entwickelt werden, da bereits kleine Fehler schwerwiegende Folgen für das menschliche Leben oder die Umwelt haben können.
Zum Beispiel wird das Fehlverhalten der KI-Software Maneuvering Characteristics Augmentation System (MCAS) teilweise für den Absturz der beiden Boeing 737 MAX im Oktober 2018 und März 2019 verantwortlich gemacht. Leider töteten die beiden Abstürze 346 Menschen.
Wie können wir die Risiken von KI-Systemen überwinden? – Verantwortungsvolle KI-Entwicklung und Regulierungskonformität
Verantwortungsvolle KI (RAI) bedeutet die Entwicklung und Bereitstellung von fairen, rechenschaftspflichtigen, transparenten und sicheren KI-Systemen, die die Privatsphäre gewährleisten und gesetzliche Vorschriften und gesellschaftliche Normen einhalten. Die Umsetzung von RAI kann aufgrund der breiten und schnellen Entwicklung von KI-Systemen komplex sein.
Allerdings haben große Technologie-Unternehmen RAI-Rahmenwerke entwickelt, wie z. B.:
KI-Labore auf der ganzen Welt können sich an diesen Prinzipien orientieren oder ihre eigenen verantwortungsvollen KI-Rahmenwerke entwickeln, um vertrauenswürdige KI-Systeme zu schaffen.
KI-Regulierungskonformität
Da Daten ein integraler Bestandteil von KI-Systemen sind, müssen KI-basierte Organisationen und Labore die folgenden Regulierungen einhalten, um die Datensicherheit, -privatsphäre und -sicherheit zu gewährleisten.
- DSGVO (Datenschutz-Grundverordnung) – ein Datenschutzrahmen der EU.
- CCPA (California Consumer Privacy Act) – ein kalifornisches Gesetz für Verbraucherschutz und Datenschutz.
- HIPAA (Health Insurance Portability and Accountability Act) – ein US-Gesetz, das die medizinischen Daten von Patienten schützt.
- EU-KI-Gesetz und Ethik-Richtlinien für vertrauenswürdige KI – eine EU-KI-Regulierung.
Es gibt verschiedene regionale und lokale Gesetze, die von verschiedenen Ländern erlassen wurden, um ihre Bürger zu schützen. Organisationen, die die Regulierungskonformität bei Daten nicht gewährleisten, können mit schwerwiegenden Strafen rechnen. Zum Beispiel hat die DSGVO ein Bußgeld von 20 Millionen Euro oder 4% des Jahresumsatzes für schwerwiegende Verstöße wie unrechtmäßige Datenverarbeitung, unerwiesene Datenzustimmung, Verletzung der Rechte von Datenunterlagen oder ungeschützte Datenübertragung an eine internationale Einheit festgelegt.
KI-Entwicklung und Regulierung – Gegenwart und Zukunft
Mit jedem vergehenden Monat erreichen die KI-Fortschritte unvergleichliche Höhen. Aber die begleitenden KI-Regulierungen und Regierungsframeworks hinken hinterher. Sie müssen robuster und spezifischer werden.
Technologie-Führer und KI-Entwickler haben die Alarmglocken über die Risiken von KI geläutet, wenn sie nicht angemessen reguliert werden. Forschung und Entwicklung in KI können weiterhin Wert in vielen Bereichen schaffen, aber es ist klar, dass eine sorgfältige Regulierung jetzt unerlässlich ist.
Für weitere KI-bezogene Inhalte besuchen Sie unite.ai.
