Kaarel Kotkas, CEO und Gründer von Veriff – Interview-Serie

Kaarel Kotkas ist der CEO und Gründer von Veriff und dient als strategischer Denker und Visionär hinter dem Unternehmen. Er leitet das Team von Veriff bei der Bekämpfung von Betrug und Wettbewerb im sich schnell verändernden Bereich der Online-Identifizierung. Bekannt für seine Energie und Begeisterung, ermutigt Kotkas das Team, Integrität in der digitalen Welt aufrechtzuerhalten. Im Jahr 2023 wurde er in die EU Forbes 30 Under 30 aufgenommen, und im Jahr 2020 wurde er zum EY-Unternehmer des Jahres in Estland ernannt. Der Nordic Business Report hat ihn auch unter den 25 einflussreichsten jungen Unternehmern in Nordeuropa aufgeführt.

Veriff ist ein globaler Anbieter von Identitätsverifizierung, der Online-Unternehmen hilft, Betrug zu reduzieren und gesetzlichen Vorschriften zu entsprechen. Mit Hilfe von KI verifiziert Veriff automatisch Identitäten, indem es verschiedene technische und verhaltensbedingte Indikatoren analysiert, einschließlich Gesichtserkennung.

Was hat Sie dazu inspiriert, Veriff zu gründen, und welche Herausforderungen haben Sie bei der Entwicklung einer KI-gestützten Plattform zur Betrugsprävention erlebt?

Meine Motivation für Veriff kam nachdem ich selbst erlebt hatte, wie einfach es war, online jemand anderes zu sein. Als ich mit 14 Jahren biologisch abbaubare Schnur auf eBay für den Bauernhof meiner Familie kaufte, konnte ich problemlos die Altersbeschränkung von PayPal (PYPL ) umgehen, indem ich mein Geburtsjahr auf der Kopie meines Ausweisdokuments mit Photoshop änderte.

Ich sah weiterhin, wie Online-Nutzer ihre Identität falsch darstellten, um Altersprüfungen und andere Sicherheitsmaßnahmen zu umgehen. Es war aufgrund dieser Erfahrungen, dass ich die Idee für Veriff entwickelte.

Was die Herausforderungen betrifft, so gab es ein Jahr nach der Gründung des Unternehmens ein Wochenende, an dem wir unserem Team freigaben. Dies war derselbe Tag, an dem wir einen Bug fixten, der zu einer vollständigen Unterbrechung unserer Überwachungskapazitäten führte. Wir bemerkten nicht, dass unser Service sich selbst abschaltete, bis zum Samstagmorgen. Als ich am Montagmorgen meinem größten Kunden gegenübersaß, der Tausende von Dollar an Umsatz verloren hatte, war ich transparent und erklärte die Fehler auf unserer Seite. Wir schüttelten uns die Hände und gingen zurück zur Arbeit. Was ich aus dieser Erfahrung gelernt habe, ist, dass wir als Gründer und Geschäftsführer Herausforderungen erwarten und uns darauf vorbereiten müssen. Darüber hinaus ist Transparenz entscheidend, um Vertrauen aufzubauen. Schließlich kann die Demonstration einer Geschichte von überwundenen Herausforderungen wertvoller sein, da sie zeigt, dass man Probleme erfolgreich angehen und widerstandsfähig sein kann.

Wie sehen Sie die größten Risiken, die Deepfakes, insbesondere in politischen Kontexten, für Wahlen und Demokratie darstellen?

In dieser Wahlperiode ist die Integrität des Wahlprozesses gefährdet. KI kann große Mengen an Daten analysieren, um Wählerpräferenzen und Trends zu identifizieren, und ermöglicht es Kampagnen, Nachrichten und Zielgruppen zu personalisieren. Böswillige Akteure sind gut ausgestattet, um falsche Narrative über Kandidaten zu erstellen, die Handlungen ausführen, die sie nie getan haben, oder Aussagen zu treffen, die sie nie getroffen haben, und so ihre Reputationen zu schädigen und Wähler zu täuschen.

Bisher haben wir Deepfakes von Celebrities gesehen, die Präsidentschaftskandidaten unterstützen, und einen falschen Anruf von Biden. Obwohl es Technologien gibt, die helfen, zwischen KI-generiertem Inhalt und echtem Inhalt zu unterscheiden, ist es nicht praktikabel, diese Technologien in großem Umfang einzusetzen. Angesichts der hohen Einsätze und der Glaubwürdigkeit der Wahlen muss etwas unternommen werden, um das Vertrauen der Öffentlichkeit zu bewahren. Die Zukunft des digitalen Wachstums und des Kampfes gegen digitale Betrügereien hängt von bewiesenen Identitäten und authentischen, verifizierten Online-Konten ab.

Können Sie sagen, ob eine Medium, sei es Bild oder Stimme, gefährlicher ist, wenn es um die Täuschung von Wählern geht?

Im Allgemeinen, insbesondere im Kontext von Wahlen in den USA, sollten beide als Bedrohungen für die Demokratie behandelt werden. Unser jüngster Bericht Veriff Fraud Index 2024: Teil 2 fand heraus, dass 74 % der Befragten in den USA besorgt über die Auswirkungen von KI und Deepfakes auf Wahlen sind.

Die Evolution von KI hat die Bedrohung für die Sicherheit nicht nur in den USA, sondern auf der ganzen Welt, insbesondere während dieser Wahlperiode, verstärkt. Ob es sich um Deepfake-Bilder, KI-generierte Stimmen in Anrufen handelt, die versuchen, die Meinung der Wähler zu beeinflussen, oder gefälschte Videos von Kandidaten, beide bereiten berechtigte Sorgen.

Wenn man das größere Bild betrachtet, ist es einfacher, die “Bedrohungsstufe” zu bewerten, wenn viele Datenpunkte verfügbar sind. Ein einzelnes Bild allein kann nicht ausreichen, um zu bestimmen, ob es betrügerisch ist, aber ein Video bietet mehr Hinweise, insbesondere wenn es Audio enthält. Die Hinzufügung von Details wie dem verwendeten Gerät, dem Ort oder der Person, die das Video aufgenommen hat, erhöht das Vertrauen in seine Echtheit. Betrüger versuchen immer, den Umfang der Informationen zu begrenzen, da es einfacher ist, diese zu manipulieren. Ich betrachte Anrufe als gefährlicher als Deepfakes, da die Erstellung von falschem Audio einfacher ist als die Generierung von hochwertigen falschen Videos. Darüber hinaus ermöglicht die Verwendung von LLMs die Anpassung von falschem Audio während der Anrufe, was es noch überzeugender macht.

Was sollten Regierungen und Wahlkommissionen im Hinblick auf KI-gesteuerte Desinformation bei den anstehenden Wahlen am meisten besorgt sein?

Regierungen und Wahlkommissionen müssen das Potenzial von Deepfake-Fähigkeiten verstehen, einschließlich deren zunehmender Sophistikation und Überzeugungskraft. Deepfakes sind besonders effektiv, wenn sie gegen Unternehmen mit unzusammenhängenden und inkonsistenten Identitätsmanagementprozessen und schlechter Cybersicherheit eingesetzt werden, was es noch kritischer macht, robuste Sicherheitsmaßnahmen umzusetzen oder einen schichtweise angelegten Sicherheitsansatz zu haben.

Es gibt jedoch keine universelle Lösung, daher ist ein koordinierter, vielschichtiger Ansatz entscheidend. Dies könnte umfassende Prüfungen von behaupteten Identitätsdokumenten, Gegen-KI zur Identifizierung von Manipulationen von eingehenden Bildern, insbesondere im Hinblick auf Fernwahlen, und, am wichtigsten, die Identifizierung der Ersteller von Deepfakes und betrügerischem Inhalt an der Quelle umfassen. Die Verantwortung für die Verifizierung von Stimmen liegt bei den Regierungen und Wahlkommissionen sowie bei Technologie- und Identitätsanbietern.

Welche Rolle können KI und Identitätsverifizierungstechnologien wie Veriff bei der Bekämpfung der Auswirkungen von Deepfakes auf Wahlen und politische Kampagnen spielen?

KI ist eine Bedrohung und eine Chance. Fast 78 % der Entscheidungsträger in den USA haben im vergangenen Jahr eine Zunahme der Verwendung von KI in betrügerischen Angriffen festgestellt. Auf der anderen Seite verwenden fast 79 % der CEOs KI und ML in der Betrugsprävention. In einer Zeit, in der der Betrug zunimmt, müssen Betrugspräventionsstrategien umfassend sein – kein einzelnes Tool kann eine so vielfältige Bedrohung bekämpfen. Dennoch können KI und Identitätsverifizierung Unternehmen und Nutzern mit einem schichtweise angelegten Stack, der Biometrie, Identitätsverifizierung, Vernetzung und andere Lösungen umfasst, helfen, Betrügern einen Schritt voraus zu sein.

Bei Veriff verwenden wir unsere eigene KI-gestützte Technologie, um unsere Deepfake-Erkennungsfähigkeiten aufzubauen. Dies bedeutet, dass unsere Tools durch das Lernen aus Deepfakes verbessert werden. Die Verwendung großer Mengen an Daten und die Suche nach Mustern, die zuvor aufgetreten sind, um zukünftige Ergebnisse vorherzusagen, hängt von sowohl automatisierten Technologien als auch menschlichem Wissen und Verständnis ab. Menschen haben ein besseres Verständnis für den Kontext und können Anomalien identifizieren, um eine Rückkopplungsschleife zu erstellen, die zur Verbesserung von KI-Modellen verwendet werden kann. Die Kombination verschiedener Erkenntnisse und Fachwissen zur Schaffung eines umfassenden Ansatzes für Identitätsverifizierung und Deepfake-Erkennung hat es Veriff und seinen Kunden ermöglicht, vorne zu bleiben.

Wie können Unternehmen und Einzelpersonen sich besser vor der Beeinflussung durch Deepfakes und KI-gesteuerte Desinformation schützen?

Der Schutz vor der Beeinflussung durch Deepfakes und KI-gesteuerte Desinformation beginnt mit Bildung und Bewusstsein für die umfassenden Fähigkeiten von KI, kombiniert mit bewiesenen Identitäten und authentischen, verifizierten Online-Konten. Um zu bestimmen, ob man einer Quelle vertrauen kann, muss man die Ursache und nicht die Symptome betrachten. Wir müssen das Problem an der Quelle angehen, wo und von wem diese Deepfakes und betrügerischen Ressourcen generiert werden.

Verbraucher und Unternehmen müssen nur Informationen von verifizierten Quellen vertrauen, wie z.B. verifizierten Benutzern von sozialen Medien und gut angesehenen Nachrichtenquellen. Darüber hinaus können die Verwendung von Faktenprüfungs-Websites und die Suche nach visuellen Anomalien in Audio- oder Video-Clips – unnatürliche Bewegungen, ungewöhnliche Beleuchtung, Unschärfe oder nicht synchronisierte Lippenbewegungen – einige der Möglichkeiten sein, wie Unternehmen sich vor der Irreführung durch Deepfake-Technologie schützen können.

Glauben Sie, dass es genug öffentliches Bewusstsein über die Gefahren von Deepfakes gibt? Wenn nicht, welche Schritte sollten unternommen werden, um das Verständnis zu verbessern?

Noch sind wir in der Phase des wachsenden Bewusstseins über KI und die Bildung der Menschen über ihr Potenzial.

Laut dem Veriff Fraud Index 2024: Teil 2 haben über ein Viertel (28 %) der Befragten im vergangenen Jahr einige Formen von KI- oder Deepfake-generiertem Betrug erlebt, ein auffallendes Ergebnis für eine aufstrebende Technologie und ein Hinweis auf die wachsende Natur dieser Bedrohung. Was noch wichtiger ist, ist, dass diese Zahl tatsächlich höher sein könnte, da 20 % sagen, sie wüssten nicht, ob sie angegriffen worden seien oder nicht. Angesichts der komplexen Natur von KI-generierten Betrugsversuchen ist es sehr wahrscheinlich, dass viele Befragte ohne ihr Wissen angegriffen wurden.

Einzelne Personen sollten vorsichtig sein, wenn sie auf verdächtige E-Mails oder unerwartete Anrufe von unbekannten Quellen stoßen. Anfragen um sensible Informationen oder Geld sollten immer mit Skepsis behandelt werden, und es ist entscheidend, seinem Instinkt zu vertrauen und Klarheit zu suchen, wenn etwas nicht stimmt.

Welche Rolle spielen Sie, dass regulatorische Körperschaften in dem Kampf gegen KI-generierte Desinformation spielen, und wie können sie mit Unternehmen wie Veriff zusammenarbeiten?

Angesichts des Ausmaßes, in dem Deepfake-Technologie verwendet wurde, um die Öffentlichkeit zu täuschen und Desinformationsbemühungen zu verstärken, und mit der laufenden US-Wahl ist es noch unklar, wie groß der Einfluss dieser Technologie auf diese Wahl und die breitere Gesellschaft sein wird. Dennoch nehmen regulatorische Körperschaften Maßnahmen, um die Bedrohungen von Deepfake-Technologie zu mildern.

Eine große Verantwortung für die Minderung der Auswirkungen von Desinformation liegt bei den Besitzern der Plattformen, die wir am häufigsten nutzen. Beispielsweise müssen führende soziale Medienunternehmen mehr Verantwortung übernehmen, indem sie robuste Maßnahmen zur Erkennung und Verhinderung von Betrugsangriffen und zum Schutz der Nutzer vor schädlicher Fehlinformation umsetzen.

Wie sehen Sie die Entwicklung von Veriffs Technologie in den nächsten Jahren, um vor Betrügern zu bleiben, insbesondere im Kontext von Wahlen?

In unserer schnelllebigen digitalen Welt hängt die Zukunft des Internets von der Fähigkeit der Online-Nutzer ab, ihre Identität zu beweisen, damit Unternehmen und Nutzer sicher miteinander interagieren können. Bei Veriff ist Vertrauen synonym mit Verifizierung. Wir zielen darauf ab, sicherzustellen, dass digitale Umgebungen ein Gefühl von Sicherheit und Vertrauen für den Endnutzer schaffen. Dieses Ziel erfordert, dass die Technologie sich weiterentwickelt, um die Herausforderungen von heute zu meistern, und wir sehen dies bereits mit der zunehmenden Akzeptanz von Gesichtserkennung und Biometrie. Daten zeigen, dass Verbraucher Gesichtserkennung und Biometrie als die sicherste Methode zum Anmelden bei einem Online-Service betrachten.

Auf lange Sicht sehen wir diese Entwicklung weitergehen und eine Zukunft, in der Benutzer anstelle von ständigem Ein- und Ausloggen bei verschiedenen Online-Aktivitäten eine “wiederverwendbare Identität” haben, die ihre Online-Persona repräsentiert.

Um uns dieser Vision näher zu bringen, haben wir kürzlich unsere Biometrische Authentifizierungslösung aktualisiert, um die Genauigkeit und Benutzererfahrung zu verbessern und die Sicherheit für eine stärkere Identitätsüberprüfung zu erhöhen. Diese neuesten Fortschritte in der Biometrie haben es unserer Technologie ermöglicht, sich an das Verhalten einzelner Benutzer anzupassen, um die Authentifizierung des Benutzers und nicht nur während einer Sitzung sicherzustellen. Diese Entwicklung stellt einen wichtigen Fortschritt auf unserem Weg zu einer wiederverwendbaren digitalen Identität dar.

Veriff ist für seinen globalen Umfang in der Betrugsprävention anerkannt. Was macht Veriffs Technologie in einem so wettbewerbsintensiven Bereich herausragend?

Veriffs Lösung bietet Geschwindigkeit und Bequemlichkeit, da sie 30-mal genauer und 6-mal schneller ist als vergleichbare Angebote. Wir haben die größte Datenbank von Identitätsdokumenten in der IDV/KYC-Branche. Wir können Personen gegen 11.500 von Regierungen ausgestellte ID-Dokumente aus über 230 Ländern und Territorien in 48 verschiedenen Sprachen überprüfen. Darüber hinaus ermöglicht diese Bequemlichkeit und geringere Reibung es Organisationen, mehr Benutzer zu konvertieren, Betrug zu verhindern und gesetzlichen Vorschriften zu entsprechen. Wir haben auch eine Automatisierungsrate von 91 % und 95 % der echten Benutzer werden erfolgreich bei ihrem ersten Versuch verifiziert.

Veriff war eines der ersten IDV-Unternehmen, das die Cyber Essentials-Zertifizierung erhielt. Cyber Essentials ist ein effektiver, von der Regierung unterstützter Standard, der vor den häufigsten Cyber-Angriffen schützt. Die Erlangung dieser Zertifizierung zeigt, dass Veriff die Cybersicherheit ernst nimmt und Schritte unternommen hat, um seine Daten und Systeme zu schützen. Dieser Erfolg ist ein Zeichen für das unerschütterliche Engagement des Unternehmens für Cybersicherheit und unsere Hingabe an den Schutz der Daten unserer Kunden. Vor kurzem haben wir die ISO/IEC 30107-3 iBeta Level 2 Compliance-Bewertung für biometrische passive Lebendigkeitserkennung abgeschlossen, eine unabhängige externe Validierung, die bestätigt, dass Veriffs Lösung den höchsten Standard biometrischer Sicherheit erfüllt.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Veriff besuchen.