Vordenker
KI und der Kampf gegen Technophobie
Wenn es um generative KI und große Sprachmodelle wie ChatGPT geht. KI-Begeisterung vermischt sich mit Technikphobie. Für die breite Öffentlichkeit ist das selbstverständlich: Sie mag neue aufregende Dinge, hat aber Angst vor dem Unbekannten. Das Neue ist, dass mehrere prominente Wissenschaftler selbst zu Technikskeptikern, wenn nicht sogar zu Technikphoben wurden. Der Fall der Wissenschaftler und Industriellen, die ein sechsmonatiges Verbot der KI-Forschung fordern, oder die Skepsis des führenden KI-Wissenschaftlers Prof. A. Hinton sind solche Beispiele. Das einzige verwandte historische Äquivalent, an das ich mich erinnern kann, ist die Kritik eines Teils der wissenschaftlichen Gemeinschaft an Atom- und Atombomben während des Kalten Krieges. Glücklicherweise ist es der Menschheit gelungen, diese Bedenken auf recht zufriedenstellende Weise auszuräumen.
Natürlich hat jeder das Recht, den aktuellen Stand der KI-Angelegenheiten in Frage zu stellen:
- Niemand weiß, warum große Sprachmodelle so gut funktionieren und ob sie Grenzen haben.
- Es lauern viele Gefahren, dass die Bösewichte „KI-Bomben“ erschaffen, insbesondere wenn die Staaten in Bezug auf Vorschriften passiv bleiben.
Dies sind berechtigte Sorgen, die selbst bei prominenten Wissenschaftlern die Angst vor dem Unbekannten schüren. Schließlich sind sie selbst Menschen.
Kann die KI-Forschung jedoch auch nur vorübergehend eingestellt werden? Meiner Meinung nach nein, denn KI ist die Antwort der Menschheit auf eine globale Gesellschaft und physische Welt von immer größerer Komplexität. Da die Prozesse zur Steigerung der physischen und sozialen Komplexität sehr tiefgreifend und scheinbar unerbittlich sind, sind KI und Bürgermorphose unsere einzige Hoffnung auf einen reibungslosen Übergang von der aktuellen Informationsgesellschaft zu einer Wissensgesellschaft. Andernfalls droht uns möglicherweise eine katastrophale soziale Implosion.
Die Lösung besteht darin, unser Verständnis der KI-Fortschritte zu vertiefen, ihre Entwicklung zu beschleunigen, ihren Einsatz so zu regulieren, dass ihre positiven Auswirkungen maximiert werden und gleichzeitig die bereits offensichtlichen und andere versteckte negative Auswirkungen minimiert werden. KI-Forschung kann und sollte anders werden: offener, demokratischer, wissenschaftlicher und ethischer. Hier ist eine vorgeschlagene Liste von Punkten zu diesem Zweck:
- Das erste Wort zu wichtigen Fragen der KI-Forschung, die weitreichende gesellschaftliche Auswirkungen haben, sollte an gewählte Parlamente und Regierungen delegiert werden und nicht an Unternehmen oder einzelne Wissenschaftler.
- Es sollten alle Anstrengungen unternommen werden, um die Erforschung der positiven Aspekte der KI für den sozialen und finanziellen Fortschritt zu erleichtern und ihre negativen Aspekte zu minimieren.
- Die positiven Auswirkungen von KI-Systemen können ihre negativen Aspekte bei weitem überwiegen, wenn geeignete regulatorische Maßnahmen ergriffen werden. Technophobie ist weder gerechtfertigt noch eine Lösung.
- Meiner Ansicht nach besteht die derzeit größte Bedrohung darin, dass solche KI-Systeme zu viele Bürger mit geringer (oder durchschnittlicher) Bildung und/oder geringen Ermittlungskapazitäten auch nur aus der Ferne täuschen können. Dies kann für die Demokratie und jede Form des sozioökonomischen Fortschritts äußerst gefährlich sein.
- In naher Zukunft sollten wir der großen Bedrohung begegnen, die von der Verwendung von LLM und/oder CAN bei illegalen Aktivitäten ausgeht (Betrug bei Universitätsprüfungen ist im Hinblick auf die damit verbundenen kriminellen Möglichkeiten eine eher harmlose Verwendung).
- Ihre Auswirkungen auf Arbeit und Märkte werden mittel- bis langfristig sehr positiv sein.
- Vor diesem Hintergrund sollten KI-Systeme: a) nach internationalem Recht verpflichtet sein, in einem „KI-Systemregister“ registriert zu werden, und b) ihre Benutzer darüber informieren, dass sie mit einem KI-System kommunizieren oder dessen Ergebnisse nutzen.
- Da KI-Systeme enorme gesellschaftliche Auswirkungen haben und den Nutzen und den sozioökonomischen Fortschritt maximieren sollen, sollten fortschrittliche Schlüsseltechnologien für KI-Systeme offen werden.
- KI-bezogene Daten sollten (zumindest teilweise) demokratisiert werden, wiederum im Hinblick auf die Maximierung des Nutzens und des sozioökonomischen Fortschritts.
- Für KI-Technologie-Champions müssen geeignete, starke finanzielle Entschädigungssysteme vorgesehen werden, um etwaige Gewinnverluste aufgrund der genannten Offenheit auszugleichen und starke zukünftige Investitionen in KI-Forschung und -Entwicklung sicherzustellen (z. B. durch Technologiepatente, obligatorische Lizenzsysteme).
- Das Gleichgewicht der KI-Forschung zwischen Wissenschaft und Industrie sollte neu überdacht werden, um den Forschungsoutput zu maximieren, gleichzeitig die Wettbewerbsfähigkeit aufrechtzuerhalten und Belohnungen für eingegangene Forschungs- und Entwicklungsrisiken zu gewähren.
- Bildungspraktiken sollten auf allen Bildungsebenen überdacht werden, um den Nutzen von KI-Technologien zu maximieren und gleichzeitig eine neue Generation kreativer und anpassungsfähiger Bürger und (KI-)Wissenschaftler zu schaffen.
- Um das oben Genannte sicherzustellen, sollten geeignete KI-Regulierungs-/Überwachungs-/Finanzierungsmechanismen geschaffen und gestärkt werden.
Mehrere solcher Punkte werden in meinem aktuellen Buch, Band 4 über „KI-Wissenschaft und Gesellschaft“, ausführlich behandelt, insbesondere in den Bänden A (im Mai 2023 umgeschrieben, um LLMs und künstliche allgemeine Intelligenz abzudecken) und C.
Buchreferenzen:
Künstliche Intelligenz, Wissenschaft und Gesellschaft, Teil C: KI-Wissenschaft und Gesellschaft
