KI und der Vertrauensbogen

Vorletztes Jahr, als unser Team Vorhersagen über das Kommende traf, war die Meinung einhellig, dass die Hüllen von der künstlichen Intelligenz (KI) fallen würden. Wir würden endlich sehen, was sie kann, und hoffentlich Klarheit über ihre Auswirkungen auf Wirtschaft und Gesellschaft und wie wir vorgehen sollten. Es war keine neue Vorhersage, aber ihr Kern war korrekt, obwohl wir immer noch mit den Implikationen von KI und wie (oder ob) sie in irgendeiner Weise kontrolliert werden sollte, kämpfen.

Wir würden sehen, wie Apple, Microsoft und Google KI in Geräte integrieren und ihre Macht einem breiteren und größeren Publikum zugänglich machen. Dann wiederum bedrohte ein Chatbot in einem KI-gesteuerten Suchtool Benutzer und behauptete, er spioniere Mitarbeiter aus, während ein anderer vorschlug, Elmer’s Klebstoff in selbstgemachtem Pizza verwenden, um den Käse daran zu hindern, abzurutschen. Dennoch wuchs die Anzahl der KI-Adoptionen im Geschäftsleben dramatisch, und auch der Markt wuchs. Laut Daten von Crunchbase gingen fast ein Drittel aller globalen Risikokapitalfinanzierungen im vergangenen Jahr an Unternehmen in KI-bezogenen Bereichen.

Aber auch als OpenAI wirklich bemerkenswerte erweiterte Argumentationsfähigkeiten lieferte, mahnte der renommierte KI-Forscher Yoshua Bengio zur Einführung von Sicherheitsmaßnahmen für „Grenzmodelle“ mit dem Potenzial, katastrophale Schäden zu verursachen. Und obwohl die Technologie zwei Nobelpreise für Anwendungen in der Wissenschaft gewann, äußerte einer der Preisträger Bedenken darüber, Systeme zu haben, „die intelligenter sind als wir und letztendlich die Kontrolle übernehmen“.

In einem so rasanten Bereich ist es schwierig für Expertentechnologen, mitzuhalten, geschweige denn für die breite Masse.

Und diese KI-Pannen – und Bedenken hinsichtlich Datenschutz und unkontrollierter Nutzung – haben nur die öffentliche Vorsicht erhöht.

Vertraue mir einfach

Wir befinden uns mittendrin auf einem Vertrauensbogen, der die Förderung der öffentlichen Akzeptanz von KI erfordert, während sichergestellt wird, dass die Wirtschafts- und Technologiegemeinschaften verantwortungsvoll handeln. Der erste Teil ist derzeit das Spiel auf der Unternehmensebene, das mit jedem sicheren und soliden Einsatz an Fahrt gewinnt. Wir bauen auf unseren Beweispunkten auf, die letztendlich zu einem erhöhten öffentlichen Vertrauen führen werden. Der zweite Teil ist jedoch viel schwieriger.

Wer definiert und durchsetzt die verantwortungsvolle Nutzung von KI? Kann eine Branche Richtlinien erstellen, wenn sie selbst reguliert werden muss? Wenn Technologen Schwierigkeiten haben, KI zu verstehen, werden Politiker informiert sein und ihre politischen Agenden aus dem Gespräch halten? Und wenn ein KI-Milliardär plötzlich über Kontrolle sprechen möchte, hatte er eine Erleuchtung oder versucht er nur, die Bremse zu ziehen, um aufzuholen?

„Vertraue mir einfach“ wird bei KI nicht funktionieren, egal wer du bist.

Vertraue, aber überprüfe

Die Leute schauen auf generative KI wie ChatGPT und fragen sich, ob es ihr nächstes Google sein wird? Nun, das Top-Ergebnis einer Google-Suche wird jetzt von seinem KI-Modell Gemini erstellt. Das Problem ist, dass man sich nicht auf ihn verlassen kann, wenn man ein simples Geschäft im großen Maßstab hat, wenn eine einfache Frage wie „Ist rohes Fleisch zum Verzehr sicher?“ die Antwort „Ja, gefroren“ liefert. Man muss die Daten überprüfen.

Der Vertrauensbogen der Öffentlichkeit wird dem ähneln, was er bei herkömmlicher Suche getan hat, der über die Zeit und mit Beweisen von Zuverlässigkeit gewonnen wurde. Ironischerweise haben wir in unserem Bemühen, die Suche zu vereinfachen und zu verbessern, einen Schritt zurück gemacht. Jetzt muss man, nachdem man diese KI-generierte Antwort oben erhalten hat, an einer langen Liste von Sponsorenlinks vorbeiscrollen, auf die nächsten fünf klicken und die Informationen immer noch qualifizieren.

Das ist viel Arbeit, wenn man nach einer schnellen Antwort sucht – und man kann nicht haben, dass ein ganzes Unternehmen das Gleiche tut. Wenn man jedoch die Daten, die man aus Tausenden von eigenen Service-Tickets gewonnen hat, mit echtem Wissen über die Umgebung anreichert, kann man algorithmisch Halluzinationen herunterfahren, aber es bleibt eine „Vertraue, aber überprüfe“-Situation.

Halte die Politik raus

Wenn es um die Regulierung von KI geht, sagen einige, das Pferd sei bereits aus dem Stall und werde wahrscheinlich nicht mehr gefangen. Zum Beispiel gibt es einen Mangel an wirklich effektiven Tools, um zu überprüfen, ob ein Schüler ein Papier selbst verfasst oder GenKI verwendet hat. Die Technologie ist einfach zu weit fortgeschritten.

Die Regulierung davon wäre sehr komplex und, um ehrlich zu sein, würden wir auf dünnes Eis geraten. Wir wissen, dass Technologieunternehmen Jahrzehnte vor den vorgeschlagenen externen Regulierungsbehörden liegen. Aber wir sind gut darin, einen Weg zu bahnen, nicht behindert zu werden. Dennoch könnte es am Ende darauf hinauslaufen, dass Innovatoren versuchen, Governance anzuwenden. Wer sonst könnte es verantwortungsvoll tun?

Es gibt viele Politiker, die es gerne versuchen würden. Das Risiko, abgesehen von einem Mangel an Verständnis, besteht darin, dass sie eine persönliche und politische Agenda vorantreiben. Ihr Fokus wäre möglicherweise weniger auf der Förderung von KI und mehr auf dem, was in ihrem besten politischen Interesse liegt. Sie könnten auf öffentliche Ängste zurückgreifen und mit harter Hand den Fortschritt behindern.

Der CHIPS- und Wissenschaftsakt war ein gutes Beispiel für gesunde staatliche Maßnahmen, die zu einer dramatischen 15-fachen Zunahme des Baus von Fertigungsanlagen für Computer und elektronische Geräte führten. Aber dies wurde durch Bipartisanship ermöglicht – ein immer seltenerer Relikt einer vergangenen Ära.

Sind wir würdig?

Es fließt viel Geld in KI, und in den nächsten zwei Jahrzehnten wird viel Geld von Technologieunternehmen verdient. Wie viel, wie schnell und wie sicher bleibt abzuwarten. An jedem gegebenen Tag könnte ein Deepfake kursieren, der jemanden im Rampenlicht zeigt, der die Eier eines gefährdeten Vogels jongliert. Die Öffentlichkeit würde in Horror reagieren, und obwohl es möglicherweise als KI-generiert enthüllt wird, kann das Ei nicht zurück in die Schale gelegt werden – der Schaden ist angerichtet.

Wir benötigen solche Dinge, die von informierten Technologen reguliert werden. Welche Form das annimmt – ein Rat, eine Normenbehörde, ein internationales Rahmenwerk – bleibt abzuwarten. Was bekannt ist, ist, dass KI auf einem Vertrauensbogen ist, und als Branche müssen wir beweisen, dass wir es verdienen.