KI-Modelle und Plattformen
Technologie-Führer heben die Risiken von KI und die Dringlichkeit einer robusten KI-Regulierung hervor
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Das Wachstum und die Fortschritte im Bereich KI sind in den letzten Jahren exponentiell gestiegen. Laut Statista wird der globale KI-Markt bis 2024 einen Umsatz von etwa 3000 Milliarden Dollar erzielen, im Vergleich zu 126 Milliarden Dollar im Jahr 2015. Allerdings warnen Technologie-Führer uns jetzt vor den verschiedenen Risiken von KI.
Insbesondere die jüngste Welle von generativen KI-Modellen wie ChatGPT hat neue Fähigkeiten in verschiedenen datensensiblen Branchen wie Gesundheitswesen, Bildung, Finanzen usw. eingeführt. Diese KI-gestützten Entwicklungen sind anfällig für viele KI-Mängel, die bösartige Akteure ausnutzen können.
Lassen Sie uns besprechen, was KI-Experten über die jüngsten Entwicklungen sagen und die potenziellen Risiken von KI hervorheben. Wir werden auch kurz auf die Frage eingehen, wie diese Risiken bewältigt werden können.
Technologie-Führer und ihre Bedenken im Zusammenhang mit den Risiken von KI
Geoffrey Hinton
Geoffrey Hinton – ein berühmter KI-Technologie-Führer (und “Vater” dieses Fachgebiets), der kürzlich Google (GOOGL ) verlassen hat, hat seine Bedenken über die schnelle Entwicklung von KI und ihre potenziellen Gefahren geäußert. Hinton glaubt, dass KI-Chatbots “ziemlich beunruhigend” werden können, wenn sie die menschliche Intelligenz übertreffen.
Hinton sagt:
„Im Moment sehen wir Dinge wie GPT-4, die die allgemeine Kenntnis eines Menschen bei weitem übertreffen, und sie übertreffen sie auch in puncto einfache Argumentation. Angesichts des Fortschritts müssen wir uns Sorgen machen.“
Darüber hinaus glaubt er, dass “böse Akteure” KI für “böse Dinge” wie die Erlaubnis von Robotern, ihre eigenen Ziele zu verfolgen, nutzen können. Trotz seiner Bedenken glaubt Hinton, dass KI kurzfristige Vorteile bringen kann, aber wir sollten auch stark in KI-Sicherheit und -Kontrolle investieren.
Elon Musk
Elon Musks Engagement in KI begann mit seiner frühen Investition in DeepMind im Jahr 2010, gefolgt von der Gründung von OpenAI und der Integration von KI in Teslas autonome Fahrzeuge.
Obwohl er von KI begeistert ist, äußert er häufig Bedenken hinsichtlich der Risiken von KI. Musk sagt, dass leistungsstarke KI-Systeme gefährlicher für die Zivilisation sein können als Atomwaffen. In einem Interview bei Fox News im April 2023 sagte er:
„KI ist gefährlicher als, sagen wir, schlecht gestaltete Flugzeugdesigns oder -produktion oder schlechte Autofertigung. Im Sinne, dass sie das Potenzial hat – wie klein man diese Wahrscheinlichkeit auch betrachten mag –, aber es ist nicht trivial und hat das Potenzial, die Zivilisation zu zerstören.“
Darüber hinaus unterstützt Musk staatliche Regulierungen von KI, um die Sicherheit vor potenziellen Risiken zu gewährleisten, obwohl “es nicht so viel Spaß macht”.
Stoppen Sie die großen KI-Experimente: Ein offener Brief, der von Tausenden von KI-Experten unterstützt wird
Future of Life Institute veröffentlichte am 22. März 2023 einen offenen Brief. Der Brief fordert eine vorübergehende sechsmonatige Pause bei der Entwicklung von KI-Systemen, die fortgeschrittener sind als GPT-4. Die Autoren äußern ihre Bedenken hinsichtlich des Tempos, mit dem KI-Systeme entwickelt werden, und der damit verbundenen schwerwiegenden sozioökonomischen Herausforderungen.
Darüber hinaus fordert der Brief, dass KI-Entwickler mit politischen Entscheidungsträgern zusammenarbeiten sollten, um KI-Regierungssysteme zu dokumentieren. Bis Juni 2023 wurde der Brief von über 31.000 KI-Entwicklern, Experten und Technologie-Führern unterzeichnet. Zu den prominenten Unterzeichnern gehören Elon Musk, Steve Wozniak (Mitgründer von Apple (AAPL )), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (Turing-Preisträger) und viele mehr.
Gegenargumente zur Einstellung der KI-Entwicklung
Zwei prominente KI-Führer, Andrew Ng und Yann LeCun, haben sich gegen die sechsmonatige Pause bei der Entwicklung von fortgeschrittenen KI-Systemen ausgesprochen und diese Pause als schlechte Idee betrachtet.
Ng sagt, dass KI zwar einige Risiken birgt, wie z.B. Vorurteile, die Konzentration von Macht usw., aber der Wert, den KI in Bereichen wie Bildung, Gesundheitswesen und Coaching schafft, enorm ist.
Yann LeCun sagt, dass Forschung und Entwicklung nicht gestoppt werden sollten, obwohl die KI-Produkte, die den Endnutzern erreichen, reguliert werden können.
Welche sind die potenziellen Gefahren und unmittelbaren Risiken von KI?
1. Jobverlust
KI-Experten glauben, dass intelligente KI-Systeme kognitive und kreative Aufgaben ersetzen können. Die Investmentbank Goldman Sachs schätzt, dass etwa 300 Millionen Jobs durch generative KI automatisiert werden.
Daher sollten Regulierungen für die Entwicklung von KI erlassen werden, um einen schweren wirtschaftlichen Niedergang zu vermeiden. Es sollten auch Bildungsprogramme für die Umschulung und Weiterbildung von Mitarbeitern eingerichtet werden, um dieser Herausforderung zu begegnen.
2. Voreingenommene KI-Systeme
Vorurteile, die bei Menschen in Bezug auf Geschlecht, Rasse oder Hautfarbe vorherrschen, können unbeabsichtigt in die Daten eindringen, die für die Ausbildung von KI-Systemen verwendet werden, und diese Systeme somit voreingenommen machen.
Beispielsweise kann in der Personalbeschaffung ein voreingenommenes KI-System die Lebensläufe von Personen aus bestimmten ethnischen Hintergründen ablehnen und somit Diskriminierung auf dem Arbeitsmarkt fördern. In der Strafverfolgung kann voreingenommene Vorhersagepolizei bestimmte Stadtteile oder demografische Gruppen unverhältnismäßig stark betreffen.
Daher ist es wichtig, eine umfassende Datenstrategie zu haben, die KI-Risiken, insbesondere Vorurteile, anspricht. KI-Systeme müssen häufig bewertet und geprüft werden, um sicherzustellen, dass sie fair sind.
3. Sicherheitskritische KI-Anwendungen
Autonome Fahrzeuge, medizinische Diagnose und -behandlung, Flugzeugsysteme, Kernkraftwerkskontrolle usw. sind alle Beispiele für sicherheitskritische KI-Anwendungen. Diese KI-Systeme sollten vorsichtig entwickelt werden, da bereits kleine Fehler schwerwiegende Folgen für das menschliche Leben oder die Umwelt haben können.
Beispielsweise wird das Versagen der KI-Software Maneuvering Characteristics Augmentation System (MCAS) teilweise für den Absturz der beiden Boeing 737 MAX im Oktober 2018 und März 2019 verantwortlich gemacht. Leider kosteten diese beiden Abstürze 346 Menschenleben.
Wie können wir die Risiken von KI-Systemen überwinden? – Verantwortungsvolle KI-Entwicklung und regulatorische Compliance
Verantwortungsvolle KI (RAI) bedeutet die Entwicklung und Bereitstellung fairer, rechenschaftspflichtiger, transparenter und sicherer KI-Systeme, die die Privatsphäre gewährleisten und rechtliche Vorschriften und gesellschaftliche Normen einhalten. Die Umsetzung von RAI kann komplex sein, insbesondere angesichts der breiten und schnellen Entwicklung von KI-Systemen.
Allerdings haben große Technologie-Unternehmen RAI-Rahmenwerke entwickelt, wie z.B.:
KI-Labore auf der ganzen Welt können sich von diesen Prinzipien inspirieren lassen oder ihre eigenen verantwortungsvollen KI-Rahmenwerke entwickeln, um vertrauenswürdige KI-Systeme zu schaffen.
KI-Regulatorische Compliance
Da Daten ein integraler Bestandteil von KI-Systemen sind, müssen KI-basierte Organisationen und Labore die folgenden Vorschriften einhalten, um die Datensicherheit, -privatsphäre und -sicherheit zu gewährleisten.
- DSGVO (Datenschutz-Grundverordnung) – ein Datenschutzrahmen der EU.
- CCPA (Kalifornisches Verbraucherdatenschutzgesetz) – ein kalifornisches Gesetz für Verbraucherrechte und -schutz.
- HIPAA (Gesetz zur Portabilität und zum Schutz von Gesundheitsdaten) – ein US-Gesetz, das die medizinischen Daten von Patienten schützt.
- EU-KI-Gesetz und Ethik-Richtlinien für vertrauenswürdige KI – eine EU-Regulierung für KI.
Es gibt verschiedene regionale und lokale Gesetze, die von verschiedenen Ländern erlassen wurden, um ihre Bürger zu schützen. Organisationen, die es versäumen, die regulatorische Compliance in Bezug auf Daten zu gewährleisten, können mit schwerwiegenden Strafen rechnen. Beispielsweise hat die DSGVO eine Strafe von 20 Millionen Euro oder 4% des jährlichen Gewinns für schwere Verstöße wie unrechtmäßige Datenverarbeitung, unerwiesene Datenzustimmung, Verletzung der Rechte von Datenunterlagen oder ungeschützte Datenübertragung an eine internationale Einheit festgelegt.
KI-Entwicklung und -Regulierung – Gegenwart und Zukunft
Mit jedem vergehenden Monat erreichen die KI-Fortschritte unvergleichliche Höhen. Aber die begleitenden KI-Regulierungen und Regierungsfahmen sind im Rückstand. Sie müssen robuster und spezifischer werden.
Technologie-Führer und KI-Entwickler haben Alarm geschlagen und auf die Risiken von KI hingewiesen, wenn sie nicht angemessen reguliert werden. Forschung und Entwicklung in KI können weiterhin in vielen Bereichen von Nutzen sein, aber es ist klar, dass eine sorgfältige Regulierung jetzt unerlässlich ist.
Für weitere KI-bezogene Inhalte besuchen Sie unite.ai.
