Agentic-AI-“Persönliche digitale Doppelgänger” erfordern eine Evolution der Identitätsverifizierung

Amazons Ankündigung seines “Buy for Me”-Features war ein mutiger Schritt, der das wahre Potenzial von agenter AI im E-Commerce zeigt. Durch die Ermöglichung von AI-Agenten, Produkte direkt von anderen Websites zu kaufen, wenn diese nicht auf Amazon verfügbar sind, positioniert das Unternehmen sich als führender Anbieter von höchst komfortablen und erfüllenden Einkaufserlebnissen.

Agentic AI – bei der autonome Agenten im Auftrag von realen Benutzern handeln – ist auf dem Weg zu einer schnellen Unternehmensadoption, insbesondere im B2B-Kontext. Stellen Sie sich eine Welt vor, in der “B2B-AI-Agenten” in verschiedenen Funktionen (wie Kundenservice, Vertrieb, Supply-Chain-Management, IT-Betrieb, Finanzen und Personalwesen) auf mehrere Routineaufgaben im Unternehmen ohne menschliche Intervention reagieren können.

Agentic AI ist auch im Verbraucherbereich eine gute Nachricht, da “B2C-AI-Agenten” erhebliche Möglichkeiten für Verbraucher bieten, um Zeit und Mühe in ihrem täglichen Leben zu sparen. Denken Sie an einen “Käufer-Agenten”, der Online-Shoppern hilft, die besten Angebote zu finden, Preissenkungen zu überwachen, Käufe zu automatisieren, Rückgaben zu bearbeiten und Reisebuchungen vorzunehmen. Die Möglichkeiten in verschiedenen Branchen scheinen endlos:

• Finanz- und Vermögensverwaltung – Denken Sie an AI-Agenten, die autonom Finanzstrategien ausführen, Portfolios ausgleichen, optimale Zinssätze für Spareinlagen finden und sogar Steuererklärungen verwalten können.
• Kundenservice und -support (für Einzelpersonen) – Anstatt eine Hotline anzurufen oder mit einem Bot zu chatten, kann ein persönlicher Agentic-AI direkt mit dem Agentic-AI eines Unternehmens kommunizieren, um Probleme zu lösen, Bestellungen zu klären oder Änderungen vorzunehmen. Dies eliminiert die Notwendigkeit für Einzelpersonen, Informationen zu wiederholen oder komplexe IVR-Systeme zu navigieren.
• Gesundheitswesen – AI-Agenten können Termine verwalten, Rezepte bestellen, Versicherungsansprüche einreichen und sogar proaktiv eine zweite Meinung einholen oder medizinische Forschung im Auftrag von Patienten analysieren.

Die Übernahme von agenter AI bietet Websites die Möglichkeit, sich durch außergewöhnliche Benutzerkomfort und -erlebnisse abzuheben. Allerdings ist agenter AI auch sehr anfällig für Betrug. Forschungsergebnisse zeigen, dass Bots zwischen 40 und 50 Prozent des gesamten Web-Traffics ausmachen, wobei etwa 65 Prozent dieser Bots als bösartig angesehen werden. Agentic AI ist im Wesentlichen eine Möglichkeit für normale Verbraucher, Bots zu nutzen, und Betrüger – die oft Bots in großen Mengen nutzen, um Operationen im großen Maßstab zu ermöglichen – werden es nun viel einfacher haben, sich unauffällig unter legitimen agenter-Traffic zu verstecken.

Auf grundlegender Ebene wird die Fähigkeit, zwischen diesen bösartigen und legitimen Bots im großen Maßstab zu unterscheiden, ein wichtiger Faktor sein, um die Führer im agenter-AI-Rennen zu unterscheiden. In einer agenter-Welt werden Maschinen mit Agency ausgestattet und werden die gleichen “Cyber-Flure” wie wir Menschen begehen.

Aber ist die E-Commerce-Landschaft bereit?

Agentic AI wird eine Neubewertung oder eine Erweiterung des bestehenden Online-Identitätsverifizierungsrahmens erfordern, was wiederum die Lösungsanbieter dazu zwingen wird, besser zu werden, was sie bereits tun. Bisher hat sich dieser Rahmen auf drei Fragen konzentriert:

• Ist diese Person real? Die schnelle Verbreitung von Deepfakes macht Liveness-Checks für alle hochrisiken Transaktionen erforderlich, um sicherzustellen, dass sie von einer realen, lebenden Person initiiert werden. Im Kontext von agenter AI kann die Antwort lauten: “Nein, ich bin keine Person”, aber das bedeutet nicht, dass Liveness irrelevant ist. Liveness-Erkennung sollte immer Teil biometrischer Checks sein, die bei hochrisiken Punkten in einer Benutzerreise erfolgen, um sicherzustellen, dass ein Mensch in der Schleife ist – wie bei der Erstellung eines Kontos, der Überweisung von Geld oder der Kontowiederherstellung (“Ich habe mein Passwort vergessen”).
• Ist diese Person vertrauenswürdig? Dies ist die Fähigkeit, zu bestimmen, ob der Benutzer ein Betrüger, ein zukünftiger VIP-Kunde oder etwas dazwischen ist, was oft das Überprüfen gegen öffentliche Datenbanken beinhaltet. Zum Beispiel würde jemand, der auf einem Online-Verleihmarkt eine Unterkunft buchen möchte, als hochrisikoreich eingestuft, wenn er/sie eine bekannte kriminelle Vergangenheit von Squatting oder Eigentumszerstörung hat.
• Ist diese Person noch hinter dem Konto? Dies bezieht sich auf kontinuierliche, permanente Authentifizierung – oder die Sicherstellung, dass die Person, deren Identität bei der Anmeldung verifiziert wurde, noch vorhanden ist, um Kontouzunahme durch andere Menschen zu verhindern.

Agentic AI fügt eine vierte Frage hinzu – hat dieser Agent die Autorität, als Proxy des realen Benutzers zu handeln? Diese Frage der Autorität ist kritisch, um den Umfang und die Dauer der Autorisierung des Menschen für den AI-Agenten zu bestätigen, um als sein Proxy zu handeln, im Einklang mit dem Kontext. Dies geht nicht nur darum, eine Aufgabe zu delegieren; es geht darum, sicherzustellen, dass ein AI-Agent spezifische, widerrufbare, kontextbewusste, menschliche Berechtigungen besitzt. Alle Aktionen des AI-Agents müssen auf einen realen, legitimen Menschen zurückverfolgbar sein; dies ist der Schlüssel, um B2C-Websites agenter AI auf sichere und verantwortungsvolle Weise zu implementieren.

Laut einer aktuellen Schätzung war AI für etwa 20 Prozent des Betrugs verantwortlich, der 2024 in allen Branchen begangen wurde, und diese Zahl wird voraussichtlich weiter ansteigen, da Hacker neue Techniken einsetzen. Neben bösartigen AI-Agenten, die legitime Agenten nachahmen, ist ein weiteres Beispiel die Agenten-Hijacking, oder wenn ein Angreifer die Art und Weise beeinflusst, wie ein Agent Informationen wahrnimmt oder Entscheidungen trifft. Daher ist es neben der Verifizierung der Legitimität und Autorität von AI-Agenten auch wichtig, die Integrität von Agenten zu überprüfen, um sicherzustellen, dass sie nicht manipuliert wurden.

Gartner hat seine starken Prognosen für das Wachstum von agenter AI insgesamt mit einer wichtigen Einschränkung gemildert: über 40 Prozent der agenter-AI-Projekte werden bis Ende 2027 abgesagt. Dies war ein deutlicher Weckruf – ein Zeichen dafür, dass viele Organisationen die Komplexität von agenter-AI-Implementierungen unterschätzen, insbesondere die Notwendigkeit, angemessene Risikokontrollen zu gewährleisten. Während es viele Möglichkeiten gibt, wie agenter-AI-Agenten ausgenutzt werden können, um Schaden anzurichten, ist die Fähigkeit, Legitimität und Autorität zu verifizieren, ein grundlegender Schritt, um das Risiko zu minimieren. Glücklicherweise ist es nicht notwendig, etwas Neues zu erfinden, sondern eine Evolution – eine Erweiterung der bewährten Online-Identitätsverifizierungsrahmen, die heute existieren.