Daten – nicht KI – sind der Schlüssel

Künstliche Intelligenz hat sich so tief in Unternehmen verankert, dass fast jeder Betrieb auf die eine oder andere Weise von dieser Technologie beeinflusst wurde. Und wenn man sich die Verwendung von KI insbesondere ansieht, sehen wir, wie Unternehmen mit neuen Formen von KI innovieren und bestehende Systeme iterieren. Tatsächlich hat eine kürzliche Umfrage von IT-Führern ergeben, dass 98 % bereits agente KI verwenden, um GenAI-Anwendungsfälle zu orchestrieren, oder planen, dies in naher Zukunft zu tun.

Im Rahmen der Explosion von KI-Tools und -Technologien, die in den letzten Jahren aufgetaucht sind, werden KI-Agents schnell zu einem der beliebtesten. Diese Agents helfen Organisationen, alles und jedes zu tun – von der Verbesserung der Kundenerfahrung und des Supports bis zur Automatisierung interner Prozesse oder der Optimierung bestehender GenAI-Modelle, die bereits im Einsatz sind. Aber die Vorteile von KI-Agents und KI im Allgemeinen über ein ganzes Unternehmen hinweg zu skalieren, ist nicht ohne Schwierigkeiten.

Der Grund, warum viele Organisationen mit KI und KI-Agents im Besonderen auf großen Skala Schwierigkeiten haben, liegt bei Vertrauen und nicht bei der Technologie. KI-Agents arbeiten naturgemäß über eine Vielzahl von Systemen hinweg. Wo immer diese Systeme sind, ist es mehr als wahrscheinlich, dass sie von hochsensiblen Daten abhängen – sei es eine enorme Menge an Kundendaten, medizinischen Informationen oder Bank- und Finanzdaten. Hier liegt das Problem. Die Einbeziehung von großen Mengen an Daten in jedes KI-Modell ohne die entsprechende Infrastruktur für Datenschutz und -sicherheit lässt Unternehmen mit einem erheblichen Risiko zurück.

Egal, was das Ergebnis eines KI-Modells ist, es ist nur dann wertvoll, wenn die Daten, die es trainiert haben, vertrauenswürdig sind. Aber es geht um viel mehr als nur die Sicherstellung, dass Daten gesichert sind. Insbesondere bei KI-Agents ist eine große Autonomie bei der Funktionsweise dieser Modelle beteiligt. Es ist entscheidend, sicherzustellen, dass sie mit einem Verständnis davon ausgestattet sind, wer auf Daten zugreifen sollte, wann sie zugreifen sollten und wie, um Vertrauen aufzubauen.

Die Überwindung von Datenschutzproblemen ist nicht unmöglich. Mit den richtigen Datenrichtlinien, Metadatenverwaltung, APIs und unternehmensweiten Autorisierungsframeworks können IT-Führer von Unternehmen sicherstellen, dass die Daten, die ihre KI antreiben, sicher und vertrauenswürdig sind.

Lassen Sie uns einen genaueren Blick werfen.

Die Navigation von Datenschutz und dem Bedarf an KI im großen Maßstab

Eines der umfassenderen Ziele der Integration von KI-Agents in ein Unternehmen ist es, Workflows über Betriebe und Systeme hinweg zu straffen. Aber dies ohne jegliche Schutzmechanismen zu tun, könnte ungewollt sensible Daten auf dem Weg freilegen. Zu einer Zeit, in der Datenlecks und schädliche Angriffe ständig evolvieren, könnte jedes Datenleck oder Zugriff durch unbefugte Benutzer ein Desaster bedeuten – nicht nur für eine KI-Initiative, sondern für das gesamte Unternehmen. Die durchschnittlichen Kosten für ein Datenleck liegen bei über 4 Millionen Dollar im Jahr 2025, laut IBM. Die Adoption von KI beschleunigt sich schnell, oft lässt sie Governance und Sicherheit im Staub zurück, während Unternehmensführer nach mehr Innovation, tieferen Einblicken und neuen Wachstumschancen streben. Aber auch wenn die KI-Adoption in die Höhe schießt, entwickeln sich regulatorische Richtlinien und Anforderungen, um Schritt zu halten und sicherzustellen, dass Daten sicher bleiben.

Von der DSGVO bis zur CCPA und sogar langjährigen Richtlinien wie HIIPA stellen regulatorische Komplexitäten eine komplexe Herausforderung für die Skalierung von KI-Agents dar. KI-Tools, die große Mengen an Daten erfordern, laden, wenn sie unbeaufsichtigt bleiben, ein erhöhtes Risiko ein. Wenn KI-Modelle über all diese internen Systeme hinweg reichen, werden sensible Daten oft bewegt und während des Prozesses zugegriffen. Wenn es um Daten geht, legen regulatorische Behörden weltweit einen größeren Wert auf die Sicherstellung von Datenschutz, effektiver Governance und robuster Sicherheit.

Neuere Richtlinien wie DORA – ein Satz von Richtlinien zur Verwaltung von ICT-Risiken für Finanzdienstleistungsunternehmen, die in der EU operieren – verlangen explizit die Klassifizierung und Meldung von ICT-Vorfällen, einschließlich solcher, die die Vertraulichkeit, Integrität oder Verfügbarkeit von Daten beeinträchtigen. Und obwohl diese Richtlinie einen primären Schwerpunkt auf betriebliche Widerstandsfähigkeit legt, reichen die Auswirkungen auch auf die KI-Adoption. Wenn immer mehr KI-Initiativen, einschließlich derer mit KI-Agents, auf Daten im Unternehmensumfang zugreifen, wächst das Risiko des unbefugten Zugriffs. Sollte ein KI-Projekt zum Verlust oder zur Offenlegung von Daten führen, würden solche Richtlinien schnell relevant.

Mit so viel auf dem Spiel ist es wichtig, dass Unternehmen nicht aus den Augen verlieren, wie wichtig Sicherheit, Governance und Datenzugriff sind.

Aufbau der Grundlage, um KI-Agents zu unterstützen

Unternehmen müssen eine Grundlage aufbauen, die auf effektiver Governance basiert, mit festen Schutzmechanismen und durchsetzbaren Regeln, die definieren, was Agents können und nicht können. Im Herzen dieser Grundlage liegt die Datenverwaltung – die hochrangigen Richtlinien, Standards und Strukturen, die die verantwortungsvolle Nutzung von Daten im gesamten Unternehmen regeln. Diese Richtlinien stellen sicher, dass Agents ihre Rollen nicht überschreiten, sei es durch den Zugriff auf eingeschränkte Datensätze oder durch die Initiierung von Prozessen ohne menschliche Aufsicht.

Die Implementierung einer robusten Datenverwaltungspolitik sollte mit einigen Schlüsselpunkten beginnen. Dazu gehören Rechenschaftspflicht und Eigentum, Datenqualität und Konsistenz, Sicherheit und Datenschutz, Einhaltung und Prüfbarkeit sowie Transparenz und Nachvollziehbarkeit.

Mit diesen Punkten als Grundlage der Governance gewinnen Unternehmensführer eine größere Kontrolle über Entscheidungen, mehr Vertrauen in ihre Daten und ein reduziertes regulatorisches Risiko, das durch Dateninseln entsteht. Dies geschieht durch die Nutzung von Fähigkeiten wie Metadatenverwaltung, Datenklassifizierung und -nachverfolgung, um Transparenz und Sichtbarkeit in Bezug auf den Zugriff auf Daten durch Agents oder KI-Tools zu erhöhen. Jeder dieser Mechanismen ermöglicht es Unternehmen, die Herkunft von Daten, den Fluss und die Umwandlung nachzuvollziehen.

Technologie ist wichtig, aber Vertrauen ist vorrangig

Jedes Mal, wenn ein neues KI-Modell oder eine Innovation auf dem Markt erscheint, steigt die Adoption. Aber mit jeder KI-Initiative entstehen Risiken – wenn auch nicht immer dort, wo man es vermuten würde. Die technischen Herausforderungen, die oft die Adoption neuer Tools behindern, sind nicht immer der Grund für die langsame Integration von KI. Oftmals liegt es an den Daten. Insbesondere an dem Vertrauen in diese Daten und den Bedenken hinsichtlich des Datenschutzes. Da KI so schnell voranschreitet, kann es manchmal eine Herausforderung sein, sicherzustellen, dass Dinge wie Zugriffskontrollen, Datenverwaltung, Nachverfolgung und Einhaltung mit diesem Tempo Schritt halten.

Regulierung ist ein wichtiger Teil von Vertrauen, aber was es auch erfordert, sind effektive Bewertungen. Insbesondere bei agenter KI gibt es immer noch eine große Lücke bei standardisierten Bewertungen, obwohl sie für die Erbringung von Systemen, die zuverlässig und sicher arbeiten, unerlässlich sind.

Ob Sie die Leistung interner Systeme optimieren, die Betrugsbekämpfung verbessern oder einfach die Kundenerfahrung für Kunden verbessern möchten, die besten KI-Agents und KI-Initiativen im Allgemeinen basieren auf einer Grundlage von vertrauenswürdigen Daten, Datenschutz und Sicherheit.