Aarti Samani, Gründerin und CEO von Shreem Growth Partners – Interview-Serie

Aarti Samani, Gründerin und CEO von Shreem Growth Partners, ist eine Technologie-Expertin und AI-Strategin mit über zwei Jahrzehnten Erfahrung im Bereich Wachstum und Entwicklung von AI, digitaler Identität und biometrischer Sicherheit. Sie hatte Führungspositionen bei iProov und Digital Surgery (erworben von Medtronic) inne und leitete globale Produkt- und Marketingstrategien sowie die Sicherung wichtiger Finanzierungsrunden. Als regelmäßige Kommentatorin bei der BBC und Keynote-Sprecherin auf globalen Veranstaltungen wie Money 20/20 und CogX Festival berät sie Vorstände und Führungskräfte in Fragen von AI-Ethik, -Governance und -Risiken und hilft Organisationen dabei, Vertrauen und Widerstandsfähigkeit im Zeitalter der künstlichen Intelligenz aufzubauen.

Shreem Growth Partners hilft Organisationen, sich gegen Deepfake-Betrug und AI-gesteuerte Identitätsnachahmung zu schützen, indem sie sich auf die menschliche Verteidigungsschicht konzentrieren. Durch maßgeschneiderte Schulungen, Executive-Briefings, Vulnerabilitätsanalysen und strategische Beratungen rüstet das Unternehmen Teams und Führungskräfte aus, um Manipulationsversuche zu erkennen, zu reagieren und zu verhindern. Durch die Förderung von Bewusstsein, Vorbereitung und kultureller Widerstandsfähigkeit ermöglicht Shreem es Organisationen, ihre Identität, ihren Ruf und ihre Belegschaft gegen sich entwickelnde AI-Bedrohungen zu schützen.

Sie haben Shreem Growth Partners gegründet, nachdem Sie Führungspositionen bei iProov, Medtronic Digital Surgery und anderen AI-gesteuerten Unternehmen innegehabt hatten. Was hat Sie dazu inspiriert, ein Unternehmen zu gründen, das sich speziell auf Deepfake-Betrug und Widerstandsfähigkeit konzentriert?

Nach der Veröffentlichung von ChatGPT Ende 2022 sahen wir eine Explosion von AI-gesteuerten Medienwerkzeugen, die in der Lage sind, Stimmen und Gesichter in Minuten zu klonen. Die meisten Organisationen betrachteten sie als kreative Beschleuniger für Design und Marketing. Aber Kriminelle sahen eine neue Gelegenheit für soziale Manipulation.

Deepfakes wurden schnell zum Werkzeug der Wahl für Betrüger, um Menschen zu manipulieren. Sicherheitsteams reagierten, indem sie in Erkennungstechnologie investierten, doch allein die Erkennung kann ein Problem nicht lösen, das in menschlichem Vertrauen wurzelt. Psychologie war der blinden Fleck der Branche.

Diese Erkenntnis führte mich dazu, Shreem Growth Partners zu gründen, ein Unternehmen, das sich auf den Aufbau von Deepfake-Betrugswiderstandsfähigkeit durch Bewusstsein, Simulation und kognitive Widerstandsfähigkeit konzentriert. Die Stärkung der Fähigkeit von Menschen, kritisch zu denken und Manipulationen zu widerstehen, ist der Schlüssel zur Bekämpfung dieser Form von Betrug.

Bei iProov haben Sie an der Spitze der Gesichtsbiometrie und Identitätsüberprüfung gearbeitet. Wie hat diese Erfahrung die wachsende Bedrohung aufgedeckt, die Deepfakes für Authentifizierungssysteme darstellen?

Als Chief Product und Marketing Officer bei iProov half ich dabei, biometrische Gesichtsverifizierung für sicherheitskritische Organisationen in öffentlichen und privaten Sektoren bereitzustellen. Diese Institutionen sind ständige Ziele für organisierte Cyberkriminalität. Ihre Gegner sind intelligent, gut finanziert und mit hochentwickelter Technologie ausgestattet.

Wir begannen, Versuche zu beobachten, biometrische Systeme mit Deepfakes zu umgehen, die aus gestohlenen Identitäten erstellt wurden. Da iProov als cloudbasierte Managed-Dienstleistung operierte, konnten wir diese Angriffe in Echtzeit beobachten und analysieren, wie jede Iteration sich entwickelte. Es wurde klar, dass die Kriminellen schneller lernten als der Markt sich anpasste.

Diese Erfahrung gab mir einen Einblick in die Entwicklung von Deepfake-gesteuertem Betrug und ein tiefes Verständnis dafür, wie Kreativität und Psychologie Cyberkriminalität antreiben. Dieses Verständnis des kriminellen Denkens informiert nun meine Arbeit im Bereich Deepfake-Betrugswiderstandsfähigkeit.

Deepfakes werden zunehmend für die Nachahmung von Führungskräften, Stimmenklonung und soziale Manipulation eingesetzt. Welche Szenarien sehen Sie derzeit am häufigsten in der Praxis?

Es ist immer einfacher, Zugang durch soziale Manipulation zu erlangen als durch das Brechen von Sicherheitssystemen. Da Menschen immer mehr über traditionelle Betrügereien informiert sind, wenden Kriminelle sich neuen Methoden der Manipulation zu.

Deepfake-Technologie ist das mächtigste soziale Manipulationstool, das wir je gesehen haben. Es ermöglicht Tätern, hochwertige Vertrauenssignale zu erzeugen: realistische Gesichter, Stimmen und Erzählungen, die menschliches Urteilsvermögen umgehen.

Der Vorteil der Kriminellen ist nicht nur auf die Nachahmung von Führungskräften oder Zahlungen beschränkt. Zunehmend sind die Ziele geistiges Eigentum, sensible Daten und Zugangsdaten. Durch die Schulung von AI-Agenten und die Vergabe von geklonten Stimmen kann Betrug nun mit einer Geschwindigkeit, Präzision und Skalierbarkeit ausgeführt werden, die kein menschlicher Angreifer erreichen kann.

Was unterscheidet ein Deepfake-Betrugswiderstandsfähigkeitsprogramm von traditionellem Cybersicherheits- oder Anti-Phishing-Training?

Cybersicherheitstraining, wie wir es kennen, wurde in den frühen 2000er Jahren entwickelt, als das Internet und kommerzielle Computer noch in den Kinderschuhen steckten. Seitdem hat sich der Inhalt weiterentwickelt, um Compliance-Anforderungen zu erfüllen, mit dem Fokus auf LMS-Plattformen und Gamification für Engagement. Aber die Bedrohungslandschaft hat sich weiterentwickelt.

Heutiger Betrug ist intelligent, kreativ und psychologisch gesteuert. Kriminelle verwenden AI mit der gleichen Raffinesse wie die Wissenschaft oder Unternehmen. Das Training muss daher über Compliance hinausgehen und in die Kognition eindringen.

Deepfake-Betrugswiderstandsfähigkeits-Training kann nicht darauf reduziert werden, ob jemand auf einen Link klickt. Es muss Menschen dazu bringen, kritisch zu denken, die Authentizität von Gesichtern und Stimmen in Frage zu stellen, die sie interagieren, und zu erkennen, wie leicht Wahrnehmung manipuliert werden kann.

Gleicher Wert muss auf kognitive Widerstandsfähigkeit gelegt werden. Erhöhte Emotionen, abgelenkte Geister und ständiges Multitasking schwächen das kritische Denken. Die Stärkung der kognitiven Widerstandsfähigkeit trainiert Mitarbeiter, emotionale Ausgeglichenheit zu bewahren und analytisch sowie wachsam zu bleiben. Es ist genau die Denkweise, die benötigt wird, um Manipulation zu widerstehen.

Ihr Unternehmen bietet Deepfake-Vulnerabilitätsanalysen und Tabletop-Übungen an. Können Sie uns durch eine dieser Simulationen führen und welche Erkenntnisse gewinnen Kunden typischerweise?

In unseren Vulnerabilitätsanalysen und Tabletop-Übungen replizieren wir die neuesten Deepfake-gesteuerten Angriffsvektoren, die aus realen Vorfällen stammen. Häufige Szenarien umfassen einen falschen Jobbewerber, der eine geklonte Identität verwendet, einen kompromittierten IT-Helpdesk, der Multi-Faktor-Authentifizierungsdaten zurücksetzt, oder einen Videocall mit einer AI-generierten Persona, die Mitarbeiter dazu bringt, schädliche Software herunterzuladen.

Diese Simulationen zeigen, wie Menschen unter Druck reagieren, und enthüllen blinde Flecken in Kommunikation, Prozess und Reaktion auf Vorfälle. Führungskräfte entdecken oft fehlende Expertise und unklare Eigentumsverhältnisse. Die Ergebnisse führen typischerweise zu einem anhaltenden Widerstandsfähigkeitsprogramm, das die Betrugsliteratur, Prozess- und Kulturveränderungen sowie Krisenbereitschaft im gesamten Unternehmen stärkt.

Sie sprechen oft über menschzentriertes Risikomanagement. Wie können Unternehmen ihre Mitarbeiter dazu befähigen, Deepfake-Manipulationen zu erkennen und zu widerstehen, anstatt sich allein auf technische Werkzeuge zu verlassen?

Deepfakes nutzen die gleichen neuralen Schaltkreise aus, die uns helfen, Vertrauen und Emotionen zu bewerten. Unsere Gehirne sind darauf programmiert, visuelle und auditive Signale zu priorisieren, da diese die ersten Sinne sind, die wir entwickeln. Aber wir haben noch nicht gelernt, diese Signale instinktiv in Frage zu stellen, also müssen wir diese Fähigkeit lernen und ständig wiederholen.

Unternehmen können ihre Mitarbeiter befähigen, indem sie sie dazu anregen, digitale Interaktionen mit Vorsicht und Neugier zu behandeln. Wenn wir an einem Sprach- oder Videocall teilnehmen, interagieren wir mit einem Artefakt. Dieses Artefakt kann eine reale Person auf dem Bildschirm sein oder ein künstliches. Wir können das visuell nicht bestimmen.

Die einzige Verteidigung ist die aktive Verifizierung: das Stellen der richtigen Fragen, das Überprüfen von Details und das Beachten von Inkonsistenzen in der Erzählung. Das neue Mantra muss einfach sein – Null-Vertrauen, immer verifizieren.

Deepfakes verschwimmen die Grenzen zwischen Fehlinformation und Betrug. Wie können Führungskräfte auf reputations- und operativ bedingte Krisen vorbereiten, die durch synthetische Medien ausgelöst werden?

Führungsteams müssen Deepfake-Vorfälle nun als ein Kernrisiko für das Unternehmen betrachten, nicht als hypothetisches. Jeder Führungskraft am Tisch sollte wissen, welche Rolle sie bei der Bewältigung einer Krise spielt.

Genau wie Vorstände Risikoregister überprüfen, sollten sie auch Reaktionspläne auf Vorfälle überprüfen, und diese können nicht statisch sein. Die Bedrohungslandschaft entwickelt sich zu schnell. Pläne müssen mindestens zweimal im Jahr überprüft und aktualisiert werden, idealerweise nach einer Tabletop-Übung, die ein reales Ereignis simuliert.

Deepfake-Krisen sitzen selten genau innerhalb einer Funktion. Sie erfordern die Koordination zwischen Kommunikation, Recht, Sicherheit und HR. Die Organisationen, die am besten reagieren, sind die, deren Führungskräfte diese Zusammenarbeit vor einem realen Vorfall einüben.

Es gibt auch eine psychologische Belastung, wenn Mitarbeiter oder Führungskräfte zu Zielen von überzeugenden Deepfakes werden. Welche Unterstützung oder Protokolle sollten Organisationen bereitstellen, um diese menschliche Auswirkung zu bewältigen?

“Betrugs-Scham” muss unter allen Umständen vermieden werden. Organisationen sollten eine Kultur der psychologischen Sicherheit aufbauen, lange bevor ein Vorfall eintritt. Wenn Mitarbeiter oder Führungskräfte zu Zielen von Deepfakes werden, kann das Erlebnis wie ein Angriff wirken. Ein Verlust der Kontrolle über die eigene Ähnlichkeit, Stimme und digitale Identität.

Die Reaktion muss sowohl prozedural als auch menschlich sein. Klare Meldeprotokolle sollten neben psychologischer Unterstützung, vertraulichen Debriefings und Zugang zu digitaler Forensik stehen, damit Einzelpersonen verstehen, was passiert ist.

Führungskräfte setzen den Ton. Wenn Führungskräfte offen über Manipulationsversuche und die Erholung sprechen, entfernen sie das Stigma und fördern Transparenz. Diese Offenheit ist es, die individuelle Verletzlichkeit in kollektive Widerstandsfähigkeit umwandelt.

Als Gründerin eines Beratungsunternehmens in diesem Bereich, welche sind Ihre größten Bedenken hinsichtlich der Geschwindigkeit, mit der generative AI sich entwickelt – und wo sehen Sie die nächste Welle von Deepfake-Fähigkeiten entstehen?

Generative AI entwickelt sich mit außerordentlicher Geschwindigkeit. Das an sich ist nicht das Problem. Das eigentliche Risiko liegt in der schnellen Übernahme und Verbreitung über alltägliche Geschäftsoperationen. Der Schritt zwischen Bedrohung und Widerstandsfähigkeit hat einfach nicht mitgehalten. Diese Lücke zwischen Bedrohung und Widerstandsfähigkeit ist genau der Bereich, in dem Betrüger gedeihen, mit Deepfakes als ihrem effektivsten Werkzeug.

Jede neue Innovation wird zu einer weiteren Oberfläche für Ausbeutung. Derzeit stellen AI-Agenten ein wachsendes Risiko dar. Wenn sie mit Deepfake-Technologie kombiniert werden, können sie Betrug mit einer Geschwindigkeit, Präzision und Skalierbarkeit ausführen, die kein menschlicher Angreifer erreichen kann.

Umgekehrt, welche Technologien oder gemeinsamen Bemühungen geben Ihnen Optimismus, dass wir vor Deepfake-gesteuertem Betrug und Fehlinformation bestehen können?

Die Tatsache, dass dieses Gespräch in einer renommierten Veröffentlichung stattfindet, ist selbst ein Zeichen des Fortschritts. Es zeigt, dass Innovatoren, Regulierungsbehörden, Medien und Unternehmen alle stark von Fehlinformationen betroffen sind.

Was mich optimistisch stimmt, ist die wachsende Bereitschaft zur Zusammenarbeit. Deepfake-Widerstandsfähigkeit wird nicht durch ein einzelnes Werkzeug oder eine einzelne Organisation erreicht, sondern durch gemeinsame Intelligenz. Das Lernen, Informationen auszutauschen und die Gemeinschaft so effizient zu bilden, wie es die Kriminellen tun.

Wir müssen noch herausfinden, wie diese Zusammenarbeit genau funktioniert, aber die Absicht ist da. Und diese kollektive Absicht ist es, die letztendlich Vertrauen wiederherstellen wird.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Aarti Samani besuchen.