Bedenken hinsichtlich potenzieller Risiken von ChatGPT gewinnen an Fahrt, aber ist eine Pause bei KI eine gute Entscheidung?

Während Elon Musk und andere globale Tech-Führer nach der Veröffentlichung von ChatGPT einen Stopp bei KI gefordert haben, glauben einige Kritiker, dass ein Entwicklungsstopp nicht die Antwort ist. Der KI-Evangelist Andrew Pery, von dem Unternehmen für intelligente Automatisierung ABBYY, glaubt, dass ein Stopp wie das Zurückdrücken der Zahnpasta in die Tube ist. Hier erzählt er uns, warum…

KI-Anwendungen sind allgegenwärtig und beeinflussen fast jeden Aspekt unseres Lebens. Während es lobenswert ist, die Bremse jetzt zu ziehen, könnte dies unmöglich sein.

Es gibt berechtigte Bedenken, die eine verstärkte regulatorische Aufsicht erfordern, um die potenziell schädlichen Auswirkungen zu begrenzen.

Vor kurzem hat die italienische Datenschutzbehörde die Nutzung von ChatGPT landesweit vorübergehend blockiert, weil Bedenken hinsichtlich der Privatsphäre bestehen, die mit der Art der Erhebung und Verarbeitung von personenbezogenen Daten zusammenhängen, die zum Trainieren des Modells verwendet werden, sowie weil offensichtlich keine Schutzmaßnahmen vorhanden sind, die Kinder vor unangemessenen Antworten schützen.

Die Europäische Verbraucherschutzorganisation (BEUC) fordert die EU auf, die potenziell schädlichen Auswirkungen von groß angelegten Sprachmodellen zu untersuchen, da “Bedenken darüber wachsen, wie ChatGPT und ähnliche Chatbots Menschen täuschen und manipulieren könnten. Diese KI-Systeme benötigen eine stärkere öffentliche Kontrolle, und die öffentlichen Behörden müssen die Kontrolle über sie wiedererlangen.”

In den USA hat das Center for AI and Digital Policy eine Beschwerde bei der Federal Trade Commission eingereicht, dass ChatGPT gegen Abschnitt 5 des Federal Trade Commission Act (FTC Act) (15 USC 45) verstoße. Der Grund für die Beschwerde ist, dass ChatGPT angeblich nicht den Richtlinien der FTC für Transparenz und Erklärbarkeit von KI-Systemen entspricht. Es wurde auf die Richtlinien hingewiesen, die von der FTC für KI-Systeme festgelegt wurden. Es wurde auch auf die Risiken hingewiesen, die ChatGPT anerkennt, einschließlich der Verletzung von Privatsphäre, der Erstellung schädlicher Inhalte und der Verbreitung von Fehlinformationen.

Die Nützlichkeit von groß angelegten Sprachmodellen wie ChatGPT ist unbestritten, aber Forschungsergebnisse zeigen auch ihre dunkle Seite. Es ist bewiesen, dass es falsche Antworten produziert, da das zugrunde liegende ChatGPT-Modell auf Deep-Learning-Algorithmen basiert, die große Trainingsdatensätze aus dem Internet nutzen. Im Gegensatz zu anderen Chatbots verwendet ChatGPT Sprachmodelle, die auf Deep-Learning-Techniken basieren und Texte generieren, die ähnlich wie menschliche Gespräche sind, und die Plattform “kommt zu einer Antwort, indem sie eine Reihe von Vermutungen anstellt, was der Grund ist, warum sie falsche Antworten als ob sie vollständig wahr wären, verteidigen kann.”

Darüber hinaus ist ChatGPT bewiesen, dass es Vorurteile verstärkt und verstärkt, was zu “Antworten führt, die gegen Geschlecht, Rasse und Minderheiten diskriminieren, was das Unternehmen zu mildern versucht.” ChatGPT kann auch ein Eldorado für böswillige Akteure sein, um unwissende Benutzer auszunutzen, ihre Privatsphäre zu gefährden und sie Scam-Angriffen auszusetzen.

Diese Bedenken haben das Europäische Parlament veranlasst, einen Kommentar zu veröffentlichen, der die Notwendigkeit unterstreicht, die aktuellen Bestimmungen des Entwurfs des EU-KI-Gesetzes (AIA) zu stärken, das noch nicht ratifiziert ist. Der Kommentar weist darauf hin, dass der aktuelle Entwurf der vorgeschlagenen Verordnung sich auf sogenannte schmale KI-Anwendungen konzentriert, die spezifische Kategorien von Hochrisiko-KI-Systemen wie Rekrutierung, Kreditwürdigkeit, Beschäftigung, Strafverfolgung und Berechtigung für Sozialleistungen umfassen. Der Entwurf der AIA-Verordnung der EU deckt jedoch nicht allgemeine KI ab, wie z.B. große Sprachmodelle, die erweiterte kognitive Fähigkeiten bieten und “eine breite Palette intelligenter Aufgaben ausführen können”. Es gibt Forderungen, den Anwendungsbereich der Verordnung auf eine separate, hochrisikoreiche Kategorie von allgemeinen KI-Systemen auszudehnen, die von den Entwicklern vor der Markteinführung einer strengen ex-ante-Konformitätsprüfung unterzogen werden müssen und deren Leistung kontinuierlich auf potenzielle unerwartete schädliche Ausgaben überwacht werden muss.

Ein besonders hilfreiches Forschungsergebnis weist auf diese Lücke hin, dass die EU-AIA-Verordnung “hauptsächlich auf konventionelle KI-Modelle und nicht auf die neue Generation ausgerichtet ist, die wir heute erleben.”

Es schlägt vier Strategien vor, die Regulierungsbehörden in Betracht ziehen sollten.

1. Die Entwickler solcher Systeme sollten regelmäßig über die Wirksamkeit ihrer Risikomanagementprozesse berichten, um schädliche Ausgaben zu mindern.
2. Unternehmen, die große Sprachmodelle nutzen, sollten verpflichtet werden, ihren Kunden mitzuteilen, dass der Inhalt von KI generiert wurde.
3. Die Entwickler sollten sich einem formalen Prozess von gestaffelten Veröffentlichungen unterziehen, als Teil eines Risikomanagementrahmens, der darauf ausgelegt ist, gegen potenziell unvorhersehbare schädliche Ergebnisse zu schützen.
4. Die Entwickler sollten die Verantwortung übernehmen, “das Risiko an der Wurzel zu mindern”, indem sie “proaktiv die Trainingsdatensätze auf Fehldarstellungen überprüfen”.

Ein Faktor, der die Risiken im Zusammenhang mit disruptiven Technologien verstärkt, ist der Drang der Innovatoren, durch die Annahme eines “zuerst veröffentlichen und dann korrigieren”-Geschäftsmodells einen ersten Marktanteil zu erlangen. Während OpenAI somewhat transparent über die potenziellen Risiken von ChatGPT ist, haben sie es für den breiten kommerziellen Einsatz mit einem “Käufer auf eigene Gefahr”-Prinzip für die Nutzer veröffentlicht, die die Risiken selbst abwägen und übernehmen müssen. Dieser Ansatz könnte jedoch angesichts der umfassenden Auswirkungen von konversationalen KI-Systemen nicht haltbar sein. Proaktive Regulierung, kombiniert mit robusten Durchsetzungsmaßnahmen, muss bei der Behandlung einer solchen disruptiven Technologie im Vordergrund stehen.

Künstliche Intelligenz durchdringt bereits fast jeden Teil unseres Lebens, was bedeutet, dass eine Pause bei der KI-Entwicklung eine Vielzahl unvorhersehbarer Hindernisse und Konsequenzen nach sich ziehen könnte. Anstatt plötzlich die Bremse zu ziehen, sollten Industrie- und Gesetzgeber in gutem Glauben zusammenarbeiten, um handhabbare Regulierungen zu erlassen, die auf menschenzentrierten Werten wie Transparenz, Rechenschaftspflicht und Fairness basieren. Durch Bezugnahme auf bestehende Gesetze wie die AIA können Führungskräfte in der Privatwirtschaft und im öffentlichen Sektor umfassende, global standardisierte Richtlinien entwerfen, die böswillige Anwendungen verhindern und unerwünschte Ergebnisse mildern, um so die künstliche Intelligenz innerhalb der Grenzen der Verbesserung der menschlichen Erfahrungen zu halten.