KI-First bedeutet Sicherheit-First

Wenn man einem Kind ein brandneues Fahrrad kauft, wird das Fahrrad alle Aufmerksamkeit auf sich ziehen – nicht den glänzenden Helm, der es begleitet. Aber Eltern schätzen den Helm.

Leider sind viele von uns heute wie Kinder, wenn es um KI geht. Wir konzentrieren uns auf ihre Coolness und wie schnell wir damit vorankommen können. Nicht so sehr auf das, was wir tun können, um sicherzustellen, dass wir sicher bleiben, während wir sie verwenden. Es ist schade, denn man kann nicht den Nutzen des einen ohne den anderen haben.

Einfach ausgedrückt, die Anwendung von KI ohne sorgfältige Planung für Sicherheit ist nicht nur riskant. Es ist ein direkter Weg vom Abgrund.

Was bedeutet KI-Sicherheit überhaupt?

KI-Sicherheit umfasst eine Reihe von Schritten. Aber vielleicht das Wichtigste ist, wann man sie unternimmt. Um effektiv zu sein, muss KI-Sicherheit von Beginn an berücksichtigt werden.

Das bedeutet, dass wir überlegen, wie wir Schäden verhindern können, bevor wir es für einen Testlauf verwenden. Wir überlegen, wie wir sicherstellen können, dass die KI im Einklang mit unseren Werten und sozialen Erwartungen operiert und Ergebnisse erzeugt, bevor wir schlechte Ergebnisse erhalten.

Das Designen für KI-Sicherheit beinhaltet auch, darüber nachzudenken, wie man sie robust machen kann, oder wie man sie so gestalten kann, dass sie auch in widrigen Situationen vorhersehbar funktioniert. Es bedeutet, die KI transparent zu machen, sodass die Entscheidungen, die die KI trifft, verständlich, überprüfbar und unvoreingenommen sind.

Es beinhaltet auch, sich die Welt anzusehen, in der die KI funktionieren wird. Welche institutionellen und rechtlichen Schutzmaßnahmen benötigen wir, insbesondere um den geltenden Regulierungen zu entsprechen? Und ich kann nicht genug betonen, wie wichtig der menschliche Faktor ist: Welche Auswirkungen wird die Verwendung von KI auf die Menschen haben, die mit ihr interagieren?

Sicherheit durch Design bedeutet, KI-Sicherheit in alle unsere Prozesse, Arbeitsabläufe und Betriebe einzubauen, bevor wir unsere erste Aufforderung eingeben.

Die Risiken überwiegen die Bedenken

Nicht jeder stimmt zu. Wenn sie “Sicherheit zuerst” hören, hören einige “so vorsichtig und langsam gehen, dass man zurückbleibt”. Natürlich ist das nicht, was Sicherheit zuerst bedeutet. Es muss nicht die Innovation behindern oder die Zeit bis zur Markteinführung verlängern. Und es bedeutet nicht einen endlosen Strom von Pilotprojekten, die nie skaliert werden. Im Gegenteil.

Es bedeutet, die Risiken zu verstehen, ohne die Sicherheit in die KI zu integrieren. Betrachten Sie nur einige Beispiele.

• Deloittes Zentrum für Finanzdienstleistungen prognostiziert, dass GenAI möglicherweise für Verluste durch Betrug in Höhe von 40 Milliarden US-Dollar in den USA allein bis 2027 verantwortlich sein könnte, gegenüber 12,3 Milliarden US-Dollar im Jahr 2023, was einem jährlichen Wachstum von 32 % entspricht.
• Voreingenommene Entscheidungen. Fälle dokumentieren voreingenommene medizinische Versorgung aufgrund von KI, die auf voreingenommene Daten trainiert wurde.
• Schlechte Entscheidungen, die weitere schlechte Entscheidungen inspirieren. Schlimmer als eine anfänglich schlechte Entscheidung, die durch fehlerhafte KI ausgelöst wurde, deuten Studien darauf hin, dass diese fehlerhaften Entscheidungen Teil davon werden können, wie wir denken und zukünftige Entscheidungen treffen.
• Reale Konsequenzen. KI, die schlechte medizinische Ratschläge gibt, war für tödliche Patientenergebnisse verantwortlich. Rechtliche Probleme resultierten aus der Zitierung einer KI-Halluzination als Rechtspräzedenzfall. Und Softwarefehler, die durch eine KI-Assistentin verursacht wurden, die falsche Informationen gab, haben Produkte und den Ruf von Unternehmen beeinträchtigt und zu weit verbreiteter Unzufriedenheit unter den Nutzern geführt.

Und die Dinge werden noch interessanter.

Die Ankunft und schnelle Übernahme von agenter KI, KI, die autonom funktionieren und aufgrund der von ihr getroffenen Entscheidungen handeln kann, wird die Bedeutung des Designs für KI-Sicherheit noch verstärken.

Ein KI-Agent, der in Ihrem Namen handeln kann, kann sehr nützlich sein. Anstatt Ihnen nur von den besten Flügen für eine Reise zu erzählen, kann er sie für Sie buchen. Wenn Sie ein Produkt zurückgeben möchten, kann der KI-Agent eines Unternehmens nicht nur die Rückgaberichtlinien und die Rückgabeverfahren erläutern, sondern auch die gesamte Transaktion für Sie durchführen.

Großartig – solange der Agent nicht halluziniert oder Ihre finanziellen Informationen falsch handhabt. Oder die Rückgaberichtlinien des Unternehmens falsch interpretiert und gültige Rückgaben ablehnt.

Es ist nicht schwierig zu erkennen, wie die aktuellen KI-Sicherheitsrisiken leicht mit einer Vielzahl von KI-Agents, die Entscheidungen treffen und handeln, besonders wenn sie wahrscheinlich nicht alleine handeln werden. Ein großer Teil des echten Wertes von agenter KI wird aus Teams von Agenten resultieren, bei denen einzelne Agenten Teile von Aufgaben übernehmen und zusammenarbeiten – Agent zu Agent – um die Arbeit zu erledigen.

Wie kann man also KI-Sicherheit durch Design umsetzen, ohne die Innovation zu behindern und ihren potenziellen Wert zu zerstören?

Sicherheit durch Design in Aktion

Ad-hoc-Sicherheitsprüfungen sind nicht die Antwort. Aber die Integration von Sicherheitspraktiken in jede Phase der KI-Implementierung ist.

Beginnen Sie mit den Daten. Stellen Sie sicher, dass die Daten beschriftet, annotiert, voreingenommensfrei und hochwertig sind. Dies ist besonders wichtig für Trainingsdaten.

Trainieren Sie Ihre Modelle mit menschlichem Feedback, da menschliches Urteilsvermögen unerlässlich ist, um das Modellverhalten zu formen. Verstärkendes Lernen mit menschlichem Feedback (RLHF) und ähnliche Techniken ermöglichen es Annotatoren, Antworten zu bewerten und zu leiten, um LLMs zu helfen, Ausgaben zu erzeugen, die sicher und mit menschlichen Werten übereinstimmen.

Dann, bevor Sie ein Modell veröffentlichen, testen Sie es. Red-Teams, die versuchen, unsicheres Verhalten durch die Verwendung von adversarialen Aufforderungen, Randfällen und versuchten Ausbrüchen zu provozieren, können Schwachstellen aufdecken. Wenn man sie vorher behebt, bleibt alles sicher, bevor ein Problem auftritt.

Während diese Tests sicherstellen, dass Ihre KI-Modelle robust sind, überwachen Sie sie weiterhin mit Blick auf neue Bedrohungen und Anpassungen, die möglicherweise erforderlich sind, um die Modelle anzupassen.

In ähnlicher Weise überwachen Sie regelmäßig die Inhaltsquellen und digitalen Interaktionen auf Anzeichen von Betrug. Kritisch ist es, einen hybriden KI-Mensch-Ansatz zu verwenden, bei dem KI-Automatisierung den enormen Datenverkehr überwacht, der zu überwachen ist, und erfahrene Menschen die Überprüfungen für die Durchsetzung und die Gewährleistung der Genauigkeit durchführen.

Die Anwendung von agenter KI erfordert noch mehr Sorgfalt. Eine grundlegende Anforderung: Trainieren Sie den Agenten, seine Grenzen zu kennen. Wenn er Unsicherheiten, ethische Dilemmata, neue Situationen oder besonders wichtige Entscheidungen trifft, stellen Sie sicher, dass er weiß, wie er um Hilfe bitten kann.

Entwerfen Sie auch Nachvollziehbarkeit in Ihre Agenten. Dies ist besonders wichtig, damit ihre Interaktionen nur mit verifizierten Benutzern stattfinden, um betrügerische Akteure zu verhindern, die die Handlungen eines Agenten beeinflussen könnten.

Wenn sie anscheinend effektiv funktionieren, könnte es verlockend sein, die Agenten loszulassen und sie ihre Arbeit tun zu lassen. Unsere Erfahrung sagt uns, dass wir sie weiterhin überwachen sollten und die Aufgaben, die sie erfüllen, um Fehler oder unerwartetes Verhalten zu beobachten. Verwenden Sie sowohl automatisierte Prüfungen als auch menschliche Überprüfung.

Tatsächlich ist ein wesentliches Element der KI-Sicherheit die regelmäßige menschliche Beteiligung. Menschen sollten absichtlich dort eingesetzt werden, wo kritische Urteilsfähigkeit, Empathie oder Nuancen und Zweideutigkeiten bei einer Entscheidung oder Handlung involviert sind.

Noch einmal, um klar zu sein, sind dies alle Praktiken, die Sie im Voraus in die KI-Implementierung einbauen. Sie sind nicht das Ergebnis von etwas, das schiefgelaufen ist und dann versucht, den Schaden zu minimieren.

Funktioniert es?

Wir haben eine KI-Sicherheit-First-Philosophie und ein “von Beginn an”-Konzept bei unseren Kunden während des Aufkommens von GenAI und jetzt auf dem Weg zu agenter KI umgesetzt. Wir stellen fest, dass es, im Gegensatz zu den Bedenken, dass es die Dinge verlangsamen könnte, tatsächlich dazu beiträgt, sie zu beschleunigen.

Agente KI hat das Potenzial, die Kosten für den Kundenservice um 25-50 % zu senken, während sie die Kundenzufriedenheit steigert. Aber das hängt alles von Vertrauen ab.

Menschen, die KI verwenden, müssen ihr vertrauen, und die Kunden, die mit KI-gestützten menschlichen Agenten oder mit echten KI-Agenten interagieren, dürfen keine einzige Interaktion erleben, die ihr Vertrauen untergräbt. Eine schlechte Erfahrung kann das Vertrauen in eine Marke zerstören.

Wir vertrauen nicht dem, was nicht sicher ist. Wenn wir also Sicherheit in jede Schicht der KI einbauen, die wir bereit sind, einzuführen, können wir dies mit Zuversicht tun. Und wenn wir bereit sind, sie zu skalierten, können wir dies mit Zuversicht tun – schnell.

Obwohl das Umsetzen von KI-Sicherheit-First in die Praxis überwältigend erscheinen mag, sind Sie nicht allein. Es gibt viele Experten, die helfen können, und Partner, die teilen können, was sie gelernt haben und lernen, damit Sie den Wert von KI sicher nutzen können, ohne sich zu verlangsamen.

KI war bisher ein aufregendes Erlebnis, und während die Fahrt beschleunigt, finde ich es aufregend. Aber ich bin auch froh, dass ich meinen Helm trage.