Wer wird uns vor künstlich erzeugter Fehlinformation durch KI schützen?

Generative KI ist in weniger als einem Jahr von null auf hundert gegangen. Während es sich noch in den Anfängen befindet, hat es sein Potenzial gezeigt, das Geschäft zu verändern. Darüber können wir uns alle einig sein. Wo wir uns unterscheiden, ist, wie wir die Gefahren, die es birgt, eindämmen.

Um klar zu sein, ich bin für Innovation und weit entfernt von einem Angstprediger. Aber der jüngste Anstieg von Fehlinformationen – größtenteils darauf abzielend, Polarisierung um kontroversielle Themen der Stunde zu schaffen – hat deutlich gemacht, dass, wenn sie unkontrolliert bleibt, gen KI Chaos in den Gesellschaften anrichten könnte.

Wir haben diesen Film bereits mit sozialen Medien gesehen, aber es dauerte Jahre und harte Lektionen, bis wir uns dessen Schwächen bewusst wurden. Wir haben (vermutlich) etwas gelernt. Die Frage heute ist, wer helfen wird, den Strom der Realitätsverzerrung durch gen KI zu stoppen und wie?

Vorhersehbar beginnen Regierungen zu handeln. Europa führt den Angriff, wie es immer mehr bei der Regulierung von Technologie zeigt. Die USA sind direkt dahinter, mit Präsident Biden, der im Oktober einen Exekutivbefehl erließ.

Aber es wird ein globales Dorf erfordern, das zusammenwirkt, um “gen KI ehrlich” zu halten. Und bevor die Regierung helfen kann, muss sie die Einschränkungen der verfügbaren Ansätze verstehen.

Das Identitätsproblem ist viel schlimmer geworden

In dieser neuen Welt wird die Wahrheit zu der Nadel im Heuhaufen der Meinungen, die als Fakten getarnt sind. Es ist wichtig zu wissen, von wem der Inhalt stammt, als je zuvor.

Und es ist nicht so einfach, wie das Dekret, dass jedes soziales Medienkonto identitätsüberprüft werden muss. Es gibt heftigen Widerstand dagegen, und in einigen Fällen ist Anonymität notwendig, um Kontoinhaber zu schützen. Darüber hinaus interessieren sich viele Konsumenten der schlimmsten Inhalte nicht dafür, ob sie glaubwürdig sind oder woher sie stammen.

Trotz dieser Vorbehalte wird die potenzielle Rolle der Identität bei der Bewältigung von gen KI unterschätzt. Skeptiker, hört mir zu.

Stellen wir uns vor, dass Regulierung oder soziales Gewissen Plattformen dazu bringen, jedem Kontoinhaber diese Auswahlmöglichkeiten zu bieten:

1. Identität überprüfen oder nicht und
2. Öffentlich die überprüfte Identität anzeigen oder einfach als “ID überprüft” markieren
   

Dann kann das soziale Medienpublikum besser entscheiden, wer glaubwürdig ist. Ebenso wichtig, wenn nicht noch wichtiger, unterstützt die Identität die Rechenschaftspflicht. Plattformen können entscheiden, welche Maßnahmen gegen wiederholte “Fehlinformanten” und Missbraucher von KI-generierten Inhalten ergriffen werden, auch wenn sie unter verschiedenen Kontonamen auftauchen.

Mit gen KI, die die Einsätze erhöht, glaube ich, dass die Identität – wissen, wer was gepostet hat – kritisch ist. Einige werden sich dagegen wehren, und die Identität ist keine umfassende Antwort. Tatsächlich wird keine Lösung alle Beteiligten zufriedenstellen. Aber wenn die Regulierung die Plattformen dazu zwingt, die Identitätsüberprüfung für alle Konten anzubieten, bin ich überzeugt, dass die Auswirkung ein riesiger positiver Effekt sein wird.

Das Moderationsdilemma

Inhaltsmoderation – automatisiert und menschlich – ist die letzte Verteidigungslinie gegen unerwünschte Inhalte. Menschliche Moderation ist ein harter Job, mit dem Risiko psychischer Schäden durch die Aussetzung gegen die schlimmsten Aspekte der Menschheit. Es ist auch teuer und oft beschuldigt, voreingenommene Zensur zu betreiben, die die Plattformen zu reduzieren versuchen.

Automatisierte Moderation skaliert über die menschliche Fähigkeit, mit den Fluten neuer Inhalte umzugehen, aber sie versteht den Kontext nicht (Memetik sind ein häufiges Beispiel) und kulturelle Nuancen. Beide Formen der Moderation sind entscheidend und notwendig, aber sie sind nur Teil der Antwort.

Die oft gehörte, konventionelle Vorschrift für die Kontrolle von gen KI lautet: “Zusammenarbeit zwischen Technikführern, Regierung und Zivilgesellschaft ist erforderlich.” Sicher, aber was genau?

Regierungen können soziale und Medienplattformen dazu bringen, Identitätsüberprüfung und prominent auf allen Beiträgen anzuzeigen. Regulierungsbehörden können auch den Weg zu Glaubwürdigkeitsmetriken ebnen, die tatsächlich helfen, zu beurteilen, ob eine Quelle glaubwürdig ist. Zusammenarbeit ist notwendig, um universelle Standards zu entwickeln, die spezifische Anleitung und Richtung geben, damit der private Sektor nicht raten muss.

Schließlich, sollte es illegal sein, bösartige KI-Ausgaben zu erstellen? Gesetze, die Inhalte verbieten, die für illegale Aktivitäten bestimmt sind, könnten den Umfang von giftigen Inhalten verringern und die Last der Moderatoren erleichtern. Ich sehe Regulierung und Gesetze nicht als in der Lage, Fehlinformationen zu besiegen, aber sie sind entscheidend, um der Bedrohung zu begegnen.

Die sonnige Seite der Straße: Innovation

Das Versprechen der Innovation macht mich hier zu einem Optimisten. Wir können nicht erwarten, dass Politiker oder Plattformbesitzer uns vollständig vor KI-generierter Täuschung schützen. Sie lassen eine große Lücke, und das ist genau das, was die Erfindung neuer Technologien zur Authentifizierung von Inhalten und zur Erkennung von Fälschungen inspirieren wird.

Da wir nun die Nachteile sozialer Medien kennen, haben wir schnell erkannt, dass generative KI ein riesiges Netto-Negativ für die Menschheit sein könnte, mit ihrer Fähigkeit, zu polarisieren und zu täuschen.

Optimistisch sehe ich die Vorteile von vielschichtigen Ansätzen, bei denen Kontrollmethoden zusammenarbeiten, zunächst an der Quelle, die Erstellung von Inhalten, die für illegale Verwendung bestimmt sind, einschränkend. Dann, vor der Veröffentlichung, die Identität derer, die Anonymität ablehnen, überprüfend. Als Nächstes, klare Kennzeichnung, um Glaubwürdigkeitsbewertungen und die Identität des Posters oder deren Fehlen anzuzeigen. Schließlich können automatisierte und menschliche Moderation einige der schlimmsten Fälle filtern. Ich erwarte, dass bald neue Authentifizierungstechnologien online gehen.

Addieren wir all dies, und wir werden eine viel bessere, wenn auch nie perfekte, Lösung haben. In der Zwischenzeit sollten wir unsere Fähigkeiten aufbauen, um herauszufinden, was real ist, wer die Wahrheit sagt und wer versucht, uns zu täuschen.