Warum das Verbot von KI die Sicherheitsrisiken erhöht und wie Institutionen reagieren sollten

Im gesamten Vereinigten Staaten bewegen sich Schulbezirke und öffentliche Organisationen, um den Zugang zu generativen KI-Technologien (GenAI) oder spezifischen Tools zu beschränken oder zu blockieren. In Colorado hat der Schulbezirk Boulder Valley vor kurzem ChatGPT auf den Netzwerken des Bezirks verboten, mit der Begründung, es gebe Bedenken hinsichtlich des Missbrauchs, der Sicherheit und der akademischen Integrität.

Der Instinkt, die Exposition gegenüber Sicherheitsvorfällen oder Datenmissbrauch zu reduzieren, ist verständlich. Plattformen mit schwachen Schutzmechanismen oder unklaren Datenschutzverpflichtungen, wie DeepSeek, verdienen Einschränkungen und Überwachung. Aber das Verbot des Zugangs zu GenAI-Tools reduziert das Risiko nicht wesentlich; es verschiebt es oft nur in Umgebungen, in denen die Überwachung verschwindet.

Eine Umfrage des College Board ergab, dass 84% der High-School-Schüler angaben, GenAI für die Schularbeit zu verwenden, obwohl 45% der Schulleiter angaben, dass es zumindest einige Einschränkungen des Zugangs zu KI in der Schule gebe. Ähnlich fand ein IBM-Bericht heraus, dass 80% der Büroangestellten KI verwenden, aber nur 22% ausschließlich auf von den Arbeitgebern bereitgestellte Tools angewiesen sind.

Zugriffsrichtlinien allein bestimmen das Verhalten nicht. Schüler können ihr Telefon herausnehmen und jedes KI-Tool über ihr cellulare Datenetzwerk verwenden oder die Plattform zu Hause oder auf öffentlichem WLAN nutzen. Sie können auch VPNs, Remote-Desktops und Plug-ins verwenden, um Einschränkungen zu umgehen. Angestellte können dasselbe tun, um Arbeitsplatzkontrollen zu umgehen.

Organisationen sollten annehmen, dass wenn es einen Willen gibt, KI zu verwenden, es auch einen Weg gibt. Wenn die Technologie auf eine Weise eingeschränkt wird, die die Nutzung jenseits der institutionellen Sichtbarkeit treibt, steigt das Risiko von Schatten-KI. Es gibt keine Überwachung darüber, welche Informationen in Prompting eingegeben werden oder welche Daten vom Modell aufbewahrt werden. Jede Kontrolle über die Sicherheit ist sofort verschwunden.

Jenseits des Risikos von Schatten-KI schaffen Verbote eine Lücke in der Bildung, die Schüler völlig unvorbereitet auf die Nutzung der Technologie lässt, die ein großer Teil ihrer Zukunft sein wird. Diese Tools sind zunehmend in Suchmaschinen, Geschäftsplattformen, Produktivitätssuiten und persönlichen Geräten eingebettet. Eine Umfrage von Pew Research ergab, dass 62% der US-Amerikaner angaben, mindestens mehrmals wöchentlich mit KI zu interagieren. Es ist so gut wie sicher, dass Schüler und Angestellte unabhängig von institutionellen Richtlinien auf GenAI-Systeme stoßen werden.

In dieser Umgebung ist Bildung das zuverlässigste Schutzschild gegen Bedenken hinsichtlich des Missbrauchs oder der Sicherheit und um sicherzustellen, dass Schüler und Arbeitnehmer gleichermaßen gut auf die Nutzung eines Instruments vorbereitet sind, das für ihre Karrieren integral sein wird. Die Lehre verantwortungsvoller und ethischer Nutzung ermöglicht es den Nutzern, Datenrisiken zu erkennen und informierte Entscheidungen zu treffen, wo immer sie auf diese Systeme stoßen.

Bildungsprogramme sollten sich auf die Art und Weise konzentrieren, wie große Sprachmodelle (LLMs) Daten verarbeiten und aufbewahren, wie man Halluzinationen identifiziert, wie man AI-generierte Ausgaben überprüft und wie man Phishing-Kampagnen und AI-generierte Bilder identifiziert, um nur einige Beispiele zu nennen. Lehren Sie die Nutzer, skeptisch zu sein. KI-Ausgaben werden oft selbstbewusst und in polierter Sprache präsentiert, was eine Illusion von Autorität erzeugen kann. Ohne Schulung können Nutzer annehmen, dass eine gut formatierte Antwort inhärent genau ist.

Die Fähigkeit, digitale Inhalte in Frage zu stellen, ist eine Verteidigungslinie, da Deepfakes und KI-verbesserte Phishing-Kampagnen immer sophistizierter werden. Eine Umfrage von Gartner ergab, dass 62% der Organisationen im vergangenen Jahr einen Deepfake-Angriff erlebt haben und 32% einen Angriff auf KI-Anwendungen erlebt haben. Die Häufigkeit und der Umfang dieser Vorfälle werden voraussichtlich weiter ansteigen.

Öffentliche Institutionen wie Schulen und lokale Regierungen sind insbesondere anfällig für Deepfake-gestützte soziale Manipulation, da ein großer Teil ihrer Aktivitäten aufgezeichnet und öffentlich zugänglich ist. Audio-Snippets aus öffentlichen Sitzungen können manipuliert und verwendet werden, um überzeugende Sprachanrufe zu generieren. Wir haben gesehen, wie Bedrohungsakteure dies für Betrug verwenden, wie z.B. die Umleitung von Mitteln während sensibler Transaktionen. Obwohl dies meistens in gezielten Fällen passiert, sind Nutzer, die nie über diese Techniken geschult wurden oder nicht wissen, dass sie möglich sind, von Anfang an im Nachteil.

Nach der Bildung sollten Organisationen klare Richtlinien bezüglich der KI-Nutzung und -Governance haben. Diese sollten definierte Tools, akzeptable Anwendungsfälle und welche Daten in welche Modelle eingegeben werden können und dürfen, festlegen. Richtlinien müssen konsistent über Abteilungen hinweg angewendet werden, anstatt von Klasse zu Klasse oder von Büro zu Büro zu variieren. Klare Erwartungen reduzieren Unsicherheit und stärken die Verantwortlichkeit.

Anstatt blanketter Einschränkungen sollten Organisationen danach streben, wie die Technologie in der Praxis genutzt wird. Wenn eine Organisation ein Tool unterstützt, das zugänglich, sicher und gut funktioniert, wird es zum Standard für die meisten Nutzer. Die Nutzung von Schatten-KI geht zurück, weil es eine einfache Alternative gibt, die nicht das Herunterladen eines VPNs erfordert, um es zu nutzen.

Organisationen und Institutionen suchen nach Möglichkeiten, um sicheren Zugang zu LLMs zu ermöglichen, ohne dass ihre Daten geteilt oder für die Schulung verwendet werden. Eine wachsende Kategorie von KI-Enablement- und Sicherheitstools entsteht, um genau das zu tun. Sie können Zugang zu mehreren LLMs bieten, während die Daten der Institution sicher containerisiert bleiben. Zero-Data-Retention-Vereinbarungen bieten den rechtlichen Rahmen, um sicherzustellen, dass die Daten der Organisation im Besitz der Organisation bleiben und das LLM nicht darauf trainiert werden kann. Zusätzlich bleibt, wenn ein Mitarbeiter die Institution verlässt, jede KI-Nutzung, Workflows oder Daten im Besitz der Organisation.

Technische Schutzmechanismen können auch auf der Ebene der Funktion angewendet werden. Eine Institution könnte es Schülern oder Angestellten erlauben, allgemeine Fragen innerhalb eines sanktionierten LLM zu stellen, während Datei-Uploads, Dokumentenfreigabe oder andere hochriskante Fähigkeiten deaktiviert werden. Diese Konfigurationen bewahren die Produktivitätsvorteile, ohne die Tür zu unkontrollierter Datenexposition zu öffnen.

Fortgeschrittenere Tools können sensible Informationen automatisch anonymisieren, bevor sie das Modell erreichen. Zum Beispiel können Patientennamen oder Identifikatoren durch neutrale Platzhalter ersetzt werden, damit Ärzte und Krankenschwestern GenAI nutzen können, ohne geschützte Daten preiszugeben. Andere integrieren Datenverlust-Präventionskontrollen, die Sozialversicherungsnummern, Finanzkontodaten oder andere regulierte Informationen erkennen und blockieren, bevor sie in Prompting eingegeben werden.

Klare Richtlinien mit technischen Schutzmechanismen, die auf einer Grundlage von Bildung aufbauen, schaffen die beste Verteidigung, insbesondere da die Technologie so schnell ändert. GenAI entwickelt sich schneller als die meisten öffentlichen Organisationen – und ihre Budgets – adaptieren können. Der Versuch, jedes neue Modell zu blockieren, sobald es auftritt, ist nicht nachhaltig, da bis zum Zeitpunkt, an dem eine Plattform eingeschränkt wird, bereits eine andere an Popularität gewonnen hat. Nutzer, die geschult sind, die zugrunde liegenden Risiken zu verstehen, können sich an Tools und Versionen anpassen.

Sicherheit in einer KI-gestützten Umgebung hängt von der Anerkennung der Realität ab, dass GenAI nun in das tägliche Leben eingebettet ist. Es gibt kein Zurück im Zauberflaschen-Prinzip. Blanketter Verbote signalisieren Vorsicht, aber sie tauschen oft sichtbares, kontrollierbares Risiko gegen unsichtbares, unkontrolliertes Risiko ein. Lehren Sie einer Person, KI verantwortungsvoll zu nutzen, und sie wird für alles, was kommt, gerüstet sein.