Meinung

KI hält Einzug auf unseren PCs – aber wer kontrolliert, was sie sehen kann?

Adlin Pertishya
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Wichtige PunkteLokale KI-Verarbeitung garantiert nicht automatisch Privatsphäre oder Sicherheit für…
Mehr anzeigen
  • Lokale KI-Verarbeitung garantiert nicht automatisch Privatsphäre oder Sicherheit für Agenten auf dem Gerät.
  • Agenten müssen unter dem Prinzip der geringsten Berechtigung arbeiten, beschränkt auf das, was jeder spezifische Workflow erfordert.
  • Nutzer benötigen transparente und widerrufbare Kontrolle darüber, was Agenten sehen und tun können.

KI-Agenten verlassen zunehmend Chatfenster und halten Einzug in die Betriebssysteme, Anwendungen und Dateien, die Menschen täglich nutzen.

Neue Windows-PCs und Software, die in den vergangenen Monaten auf den Markt gekommen sind, läuten eine neue Ära mehrstufiger autonomer KI-Workflows für Privatanwender und Unternehmen ein. Dieser Wandel ist längst keine bloße Technologieprognose mehr.

NVIDIAs Windows-PCs mit RTX-Leistung unterstützen lokal ausgeführte KI-Agenten. Perplexity hat unterdessen seine Agentenfunktionen auf kompatible Windows-Computer ausgeweitet und ermöglicht so Workflows mit lokalen Dateien und verbundenen Anwendungen. Microsoft entwickelt derweil Schutzmaßnahmen, um zu kontrollieren, wie Agenten auf Ressourcen zugreifen und handeln.

Mehr Autonomie bringt jedoch auch größere Sicherheitsrisiken mit sich. Am 19. Oktober warnte Hayete Gallot, Executive Vice President of Security bei Microsoft, dass Unternehmen mehr tun müssten, um „Agenten im eigenen Haus“ abzusichern. Sie wies darauf hin, dass KI-Agenten häufig mit übermäßig weitreichenden Berechtigungen ausgestattet seien und bei Entscheidungen in kritischen Prozessen auf vertrauliche Daten, Werkzeuge und Systeme zugreifen könnten.

Microsofts Windows-Sicherheitsstrategie setzt auf Abschottung, eingeschränkte Berechtigungen und begrenzte Aufsicht. Zugleich wächst die Sorge, dass ein Fehler eines Agenten Folgen haben könnte, die über eine bloß falsche Antwort hinausgehen. Er könnte vertrauliche Informationen offenlegen, kritische Dateien verändern oder unerwünschte Aktivitäten in Geschäftsanwendungen auslösen.

Lokale KI bedeutet nicht automatisch private KI

KI-Agenten auf einem PC zu nutzen, kann dazu beitragen, die Menge vertraulicher Daten zu verringern, die an cloudbasierte Dienste übertragen werden. Die lokale Verarbeitung bietet jedoch keinen umfassenden Sicherheitsschutz.

Auch bei einem lokal auf dem Gerät ausgeführten Modell kann es zu weitreichenden Dateizugriffen, unzureichender Sicherheit oder unsicheren Verbindungen zu anderen Apps kommen.

Das Problem liege nicht immer beim KI-Modell; häufig sei vielmehr die Unternehmensführung ausschlaggebend, sagte Bayron Quintero, CEO und Mitgründer von iData Global, einem Unternehmen, das auf KI-Lösungen in ganz Amerika spezialisiert ist.

Unternehmen könnten zu weitreichenden oder zu eingeschränkten Zugriff auf Daten, Anwendungen und Geschäftsprozesse gewähren, sagte er gegenüber Unite AI. Agenten erhielten möglicherweise Berechtigungen, die nicht zu ihren vorgesehenen Aufgaben passten.

„Die Herausforderung besteht darin, sicherzustellen, dass ein Agent nach dem Prinzip der geringsten Berechtigungen arbeitet und nur auf die Daten, Systeme und Funktionen zugreifen kann, die für einen bestimmten Workflow erforderlich sind“, sagte Quintero. Das bedeutet, nur den Zugriff auf die Daten, Systeme und Funktionen zu gewähren, die für einen konkreten Workflow erforderlich sind.

Als wichtige Schutzmaßnahmen nannte er eine klare Zuständigkeit für Daten, rollenbasierte Zugriffskontrollen und die kontinuierliche Überwachung der Interaktionen mit internen und Drittanbietersystemen.

Sichere lokale KI gebe es nicht, betonte Quintero.

Übermäßige Berechtigungen, schwache Verschlüsselung, unzureichende Überwachung und unsichere Integrationen können einen lokal ausgeführten Agenten ebenso riskant machen wie einen cloudbasierten – oder sogar noch riskanter.

Bei der Sicherheit geht es nicht nur darum, wo das Modell eines Systems ausgeführt wird, sondern auch darum, wie es konfiguriert und verwaltet wird.

Die neue Grenze sind Berechtigungen

Für Privatanwender stellt sich die Frage, ob die Zugriffsrechte eines KI-Agenten zu seiner Aufgabe passen.

Ein Agent sollte nicht ein ganzes Laufwerk durchsuchen müssen, wenn er lediglich ein Dokument zusammenfassen soll. Ein Tool zum Organisieren von Fotos sollte nicht automatisch Finanzdaten lesen oder Nachrichten versenden können. Berechtigungen müssen eng begrenzt, transparent und widerrufbar sein.

Das Modell mit Agentenkonten und Arbeitsbereichen bei Microsoft ist ein Schritt hin zur Trennung der Aktivitäten eines Agenten von der Sitzung einer Person. Die Schutzmaßnahmen müssen sich jedoch auch außerhalb von Demonstrationen bewähren.

Microsofts Leitlinien zur Agentensicherheit unter Windows sehen die Zustimmung der Nutzer, Aktivitätsprotokolle und einen Mechanismus vor, der den Zugriff von Agenten auf das erforderliche Maß beschränkt. Arbeitgeber und Entwickler müssen beobachten, wie Agenten auf irreführende Anweisungen in Dokumenten, auf Websites oder in Nachrichten reagieren.

Bei einer autorisierten Aufgabe können Agenten auf nicht vertrauenswürdige Inhalte stoßen. Wenn ein Agent feindseligen Text als Befehl auffasst, kann das ein erhebliches Sicherheitsproblem darstellen, da sich leicht auf die Informationen zugreifen lässt.

Die Zustimmung von Menschen und der Zugriff nach dem Prinzip der geringsten Berechtigungen müssen bei sensiblen Aktionen mit einer Abschottung einhergehen.

Komfort braucht klare Grenzen

Ein KI-PC wird nicht nur danach beurteilt, wie viel Arbeit Agenten automatisieren können, sondern auch danach, wie groß das Vertrauen der Nutzer ist, persönliche und berufliche Daten mit ihnen zu teilen.

Die lokale Verarbeitung kann die Geschwindigkeit erhöhen und bestimmte Risiken durch Datenoffenlegung verringern, doch agentische KI macht Berechtigungen und Aufsicht nicht überflüssig.

Der Grundsatz sollte einfach sein: Agenten sollten nur auf das zugreifen können, was sie für ihre Aufgabe benötigen, und Nutzer sollten nachvollziehen, überwachen und unterbinden können, was ein Agent tut.

Wenn Computer immer besser darin werden, für uns zu handeln, darf Kontrolle kein nachträglicher Gedanke sein. Sie muss von Anfang an in das Design einfließen.

Adlin Pertishya ist Technologie- und Wirtschaftsjournalist, der für Finance Outlook India, Silicon India, StartupBeat und andere gearbeitet hat.