Vordenker
Bedenken über potenzielle Risiken von ChatGPT gewinnen an Fahrt, ist aber eine Pause bei KI eine gute Entscheidung?
Während Elon Musk und andere globale Tech-Führer nach der Veröffentlichung von ChatGPT einen Stopp bei KI gefordert haben, glauben einige Kritiker, dass ein Halt in der Entwicklung nicht die Antwort ist. KI-Evangelist Andrew Pery, von dem Unternehmen für intelligente Automatisierung ABBYY, glaubt, dass ein Rückzug wie das Zurückdrücken der Zahnpasta in die Tube ist. Hier erzählt er uns, warum…
KI-Anwendungen sind allgegenwärtig und haben nahezu jeden Aspekt unseres Lebens beeinflusst. Während es lobenswert ist, die Bremse jetzt zu ziehen, könnte dies unmöglich sein.
Es gibt sicherlich spürbare Bedenken, die eine verstärkte regulatorische Überwachung erfordern, um die potenziell schädlichen Auswirkungen einzudämmen.
Vor kurzem hat die italienische Datenschutzbehörde die Nutzung von ChatGPT landesweit vorübergehend blockiert, wegen Bedenken hinsichtlich der Art und Weise der Erfassung und Verarbeitung personenbezogener Daten, die zum Trainieren des Modells verwendet werden, sowie wegen des offensichtlichen Fehlens von Schutzmaßnahmen, die Kinder unangemessenen Antworten aussetzen, die “absolut unangemessen für ihr Alter und ihre Aufklärung” sind.
Die Europäische Verbraucherorganisation (BEUC) fordert die EU auf, die potenziell schädlichen Auswirkungen von groß angelegten Sprachmodellen zu untersuchen, da “Bedenken wachsen, wie ChatGPT und ähnliche Chatbots Menschen täuschen und manipulieren könnten. Diese KI-Systeme benötigen eine größere öffentliche Überwachung, und öffentliche Behörden müssen die Kontrolle über sie wiedererlangen.”
In den USA hat das Center for AI and Digital Policy eine Beschwerde bei der Federal Trade Commission eingereicht, dass ChatGPT gegen Abschnitt 5 des Federal Trade Commission Act (FTC Act) (15 USC 45) verstößt. Der Grund für die Beschwerde ist, dass ChatGPT angeblich nicht den Leitfaden für Transparenz und Erklärbarkeit von KI-Systemen einhält, der von der FTC festgelegt wurde. Es wurde auf die Anerkennung von ChatGPT hingewiesen, dass es mehrere bekannte Risiken gibt, darunter die Verletzung von Privatsphäre-Rechten, die Erstellung schädlicher Inhalte und die Verbreitung von Fehlinformationen.
Die Nützlichkeit von groß angelegten Sprachmodellen wie ChatGPT ist unbestritten, aber Forschungsergebnisse weisen auf ihre potenzielle dunkle Seite hin. Es wurde nachgewiesen, dass es falsche Antworten produziert, da das zugrunde liegende ChatGPT-Modell auf Deep-Learning-Algorithmen basiert, die große Trainingsdatensätze aus dem Internet nutzen. Im Gegensatz zu anderen Chatbots verwendet ChatGPT Sprachmodelle, die auf Deep-Learning-Techniken basieren und Texte generieren, die denen menschlicher Gespräche ähneln, und die Plattform “kommt zu einer Antwort, indem sie eine Reihe von Vermutungen anstellt, was Teil des Grundes ist, warum es falsche Antworten als ob sie völlig wahr wären, argumentieren kann.”
Darüber hinaus wurde nachgewiesen, dass ChatGPT Vorurteile verstärkt und verstärkt, was zu “Antworten führt, die gegen Geschlecht, Rasse und Minderheiten diskriminieren, was das Unternehmen zu mildern versucht.” ChatGPT kann auch ein Eldorado für schädliche Akteure sein, die unschuldige Nutzer ausnutzen, ihre Privatsphäre gefährden und sie Scam-Angriffen aussetzen.
Diese Bedenken veranlassten das Europäische Parlament, einen Kommentar zu veröffentlichen, der die Notwendigkeit unterstreicht, die aktuellen Bestimmungen des Entwurfs des EU-KI-Gesetzes (AIA) zu stärken, das noch nicht ratifiziert ist. Der Kommentar weist darauf hin, dass der aktuelle Entwurf der vorgeschlagenen Verordnung sich auf sogenannte schmale KI-Anwendungen konzentriert, die spezifische Kategorien von Hochrisiko-KI-Systemen wie Rekrutierung, Kreditwürdigkeit, Beschäftigung, Strafverfolgung und Sozialleistungen umfassen. Die EU-Entwurf der AIA-Verordnung deckt jedoch nicht allgemeine KI-Systeme wie groß angelegte Sprachmodelle ab, die erweiterte kognitive Fähigkeiten bieten und “eine breite Palette intelligenter Aufgaben ausführen können.” Es gibt Forderungen, den Anwendungsbereich der Entwurf-Verordnung auf eine separate, hochrisikoreiche Kategorie von allgemeinen KI-Systemen auszudehnen, die von den Entwicklern eine strenge ex ante-Konformitätsprüfung vor der Markteinführung und eine kontinuierliche Überwachung ihrer Leistung für potenzielle unerwartete schädliche Ausgaben erfordert.
Eine besonders hilfreiche Forschungsarbeit macht auf diese Lücke aufmerksam, dass die EU-AIA-Verordnung “primär auf konventionelle KI-Modelle und nicht auf die neue Generation ausgerichtet ist, deren Geburt wir heute miterleben.”
Sie empfiehlt vier Strategien, die Regulierungsbehörden in Betracht ziehen sollten.
- Die Entwickler solcher Systeme sollten regelmäßig über die Wirksamkeit ihrer Risikomanagementprozesse berichten, um schädliche Ausgaben zu mildern.
- Unternehmen, die groß angelegte Sprachmodelle nutzen, sollten verpflichtet werden, ihren Kunden mitzuteilen, dass der Inhalt von KI generiert wurde.
- Entwickler sollten einem formalen Prozess von gestaffelten Veröffentlichungen folgen, als Teil eines Risikomanagement-Rahmenwerks, das darauf ausgelegt ist, gegen potenziell unvorhersehbare schädliche Ergebnisse zu schützen.
- Die Entwickler sollten die Verantwortung übernehmen, “das Risiko an der Wurzel zu mildern”, indem sie “pro-aktiv die Trainingsdatensätze auf Fehldarstellungen überprüfen müssen.”
Ein Faktor, der die Risiken im Zusammenhang mit disruptiven Technologien aufrechterhält, ist der Antrieb der Innovatoren, durch die Verfolgung eines “zuerst veröffentlichen und dann korrigieren”-Geschäftsmodells einen ersten Marktanteil zu erlangen. Während OpenAI somewhat transparent über die potenziellen Risiken von ChatGPT ist, haben sie es für eine breite kommerzielle Nutzung mit einem “Käufer auf eigene Gefahr”-Prinzip auf den Markt gebracht, bei dem die Nutzer selbst die Risiken abwägen und übernehmen müssen. Dieser Ansatz könnte jedoch angesichts der allgegenwärtigen Auswirkungen von Konversations-KI-Systemen nicht haltbar sein. Proaktive Regulierung, kombiniert mit robusten Durchsetzungsmaßnahmen, muss bei der Behandlung einer so disruptiven Technologie von größter Bedeutung sein.
KI durchdringt bereits fast jeden Teil unseres Lebens, was bedeutet, dass ein Stopp bei der KI-Entwicklung eine Vielzahl unvorhersehbarer Hindernisse und Folgen nach sich ziehen könnte. Anstatt plötzlich die Bremse zu ziehen, sollten Industrie- und legislative Akteure in gutem Glauben zusammenarbeiten, um handhabbare Regulierungen zu erlassen, die auf menschenzentrierten Werten wie Transparenz, Rechenschaftspflicht und Fairness basieren. Durch Bezugnahme auf bestehende Gesetze wie die AIA können Führungskräfte in der Privatwirtschaft und im öffentlichen Sektor umfassende, global standardisierte Richtlinien entwerfen, die schädliche Nutzung verhindern und unerwünschte Ergebnisse mildern und so die KI innerhalb der Grenzen der Verbesserung menschlicher Erfahrungen halten.
