Vertrauen in KI mit ID-Verifizierung aufbauen

Generative KI hat weltweit das Interesse von Unternehmen geweckt. Tatsächlich nutzen ​​60% der Unternehmen mit berichteter KI-Adoption nun generative KI. Heutige Führungskräfte sind bemüht, herauszufinden, wie sie KI-Tools in ihre Technologie-Stapel integrieren können, um wettbewerbsfähig und relevant zu bleiben – und KI-Entwickler erstellen mehr Tools als je zuvor. Doch mit der schnellen Adoption und der Natur der Technologie werden viele Sicherheits- und ethische Bedenken nicht vollständig berücksichtigt, während Unternehmen sich bemühen, die neueste und beste Technologie zu integrieren. Als Ergebnis schwindet das Vertrauen.

Eine aktuelle Umfrage ergab, dass nur 48% der Amerikaner glauben, KI sei sicher und gesichert, während 78% sagen, sie seien sehr oder ziemlich besorgt, dass KI für schädliche Absichten verwendet werden kann. Obwohl KI dazu beigetragen hat, tägliche Arbeitsabläufe zu verbessern, sind Verbraucher besorgt über böswillige Akteure und ihre Fähigkeit, KI zu manipulieren. Deepfake-Fähigkeiten werden beispielsweise zu einer größeren Bedrohung, da die Zugänglichkeit der Technologie für die Massen zunimmt.

Das alleinige Vorhandensein eines KI-Tools reicht nicht mehr aus. Damit KI ihr wahres, vorteilhaftes Potenzial erreichen kann, müssen Unternehmen KI in Lösungen integrieren, die verantwortungsvolle und tragfähige Nutzung der Technologie demonstrieren, um den Verbrauchern, insbesondere im Bereich der Cybersicherheit, wo Vertrauen entscheidend ist, mehr Vertrauen zu geben.

KI-Cybersicherheits-Herausforderungen

Die generative KI-Technologie entwickelt sich rasant und Entwickler verstehen gerade erst die Bedeutung, diese Technologie in Unternehmen einzusetzen, wie es bei der jüngsten Einführung von ChatGPT Enterprise zu sehen ist.

Die aktuelle KI-Technologie ist in der Lage, Dinge zu erreichen, die vor weniger als einem Jahrzehnt noch im Bereich der Science-Fiction lagen. Wie sie funktioniert, ist beeindruckend, aber die relativ schnelle Expansion, in der all dies geschieht, ist noch beeindruckender. Das ist es, was KI-Technologie so skalierbar und zugänglich für Unternehmen, Einzelpersonen und natürlich auch für Betrüger macht. Während die Fähigkeiten der KI-Technologie Innovationen vorangetrieben haben, hat ihre weite Verbreitung auch zur Entwicklung gefährlicher Technologien wie Deepfakes-as-a-Service geführt. Der Begriff “Deepfake” leitet sich von der Technologie ab, die diese spezielle Art von manipuliertem Inhalt (oder “Fake”) erstellt, die die Verwendung von Deep-Learning-Techniken erfordert.

Betrüger werden immer dem Geld folgen, das ihnen den größten ROI bietet – jedes Unternehmen mit einem hohen potenziellen Return wird also ihr Ziel sein. Das bedeutet, dass Fintech-Unternehmen, Unternehmen, die Rechnungen bezahlen, Regierungsdienste und Einzelhändler für hochwertige Waren immer an der Spitze ihrer Liste stehen werden.

Wir befinden uns an einem Punkt, an dem Vertrauen auf dem Spiel steht, und Verbraucher werden zunehmend weniger vertrauenswürdig, was Amateur-Betrügern mehr Chancen bietet, als je zuvor. Durch die neue Zugänglichkeit von KI-Tools und die zunehmend niedrigen Kosten ist es einfacher für böswillige Akteure aller Fertigkeitsstufen, die Bilder und Identitäten anderer zu manipulieren. Deepfake-Fähigkeiten werden durch Deepfake-Apps und -Websites für die Massen zugänglich und die Erstellung von komplexen Deepfakes erfordert sehr wenig Zeit und ein relativ niedriges Maß an Fertigkeiten.

Mit der Verwendung von KI haben wir auch eine Zunahme von Kontoubernahmen gesehen. KI-generierte Deepfakes machen es jedem leicht, Nachahmungen oder synthetische Identitäten zu erstellen, sei es von Prominenten oder sogar Ihrem Chef. ​​

KI- und Large-Language-Model-(LLM)-generative Sprachanwendungen können verwendet werden, um komplexere und schwer zu entdeckende Betrügereien zu erstellen, die schwer zu erkennen und zu entfernen sind. LLMs haben insbesondere eine weite Verbreitung von Phishing-Angriffen ermöglicht, die Ihre Muttersprache perfekt sprechen können. Diese erzeugen auch ein Risiko von “Romance-Betrug” im großen Maßstab, wenn eine Person eine Verbindung mit jemandem über eine Dating-Website oder -App herstellt, aber die Person, mit der sie kommuniziert, ein Betrüger mit einem gefälschten Profil ist. Dies führt dazu, dass viele soziale Plattformen “Beweise der Menschlichkeit” in Betracht ziehen, um auf großem Maßstab tragfähig zu bleiben.

Allerdings können die aktuellen Sicherheitslösungen, die Metadatenanalyse verwenden, böswillige Akteure nicht stoppen. Die Deepfake-Erkennung basiert auf Klassifizierern, die nach Unterschieden zwischen echten und gefälschten Inhalten suchen. Diese Erkennung ist jedoch nicht mehr leistungsstark genug, da diese fortgeschrittenen Bedrohungen mehr Datenpunkte erfordern, um sie zu erkennen.

KI und Identitätsverifizierung: Zusammenarbeit

KI-Entwickler müssen sich darauf konzentrieren, die Technologie zu verwenden, um verbesserte Sicherheitsmaßnahmen für bewährte Cybersicherheitsmaßnahmen bereitzustellen. Dies wird nicht nur eine zuverlässigere Verwendung von KI ermöglichen, sondern auch eine verantwortungsvollere Verwendung fördern – indem es bessere Cybersicherheitspraktiken fördert, während es die Fähigkeiten bestehender Lösungen erweitert.

Ein wichtiger Anwendungsfall dieser Technologie ist die Identitätsverifizierung. Die KI-Bedrohungslandschaft entwickelt sich ständig weiter und Teams müssen mit Technologie ausgestattet sein, die schnell und einfach neue Techniken anwenden und umsetzen kann.

Einige Möglichkeiten bei der Verwendung von KI mit Identitätsverifizierungstechnologie sind:

• Untersuchung wichtiger Geräteattribute
• Verwendung von Gegen-KI zur Erkennung von Manipulationen: Um nicht betrogen zu werden und wichtige Daten zu schützen, kann Gegen-KI die Manipulation von eingehenden Bildern erkennen.
• Behandlung des “Fehlens von Daten” als Risikofaktor in bestimmten Umständen
• Aktives Suchen nach Mustern über mehrere Sitzungen und Kunden hinweg

Diese schichtweise Verteidigung, die durch KI und Identitätsverifizierungstechnologie bereitgestellt wird, untersucht die Person, ihre behauptete Identitätsdokumentation, Netzwerk und Gerät, minimiert das Risiko von Manipulationen als Ergebnis von Deepfakes und stellt sicher, dass nur vertrauenswürdige, echte Personen Zugang zu Ihren Diensten erhalten.

KI und Identitätsverifizierung müssen weiterhin zusammenarbeiten. Je umfassender und vollständiger die Trainingsdaten sind, desto besser wird das Modell. Da KI nur so gut ist wie die Daten, die sie erhält, desto mehr Datenpunkte wir haben, desto genauer kann die Identitätsverifizierung und KI sein.

Zukunft von KI und ID-Verifizierung

Es ist schwer, etwas im Internet zu vertrauen, es sei denn, es wird von einer vertrauenswürdigen Quelle bestätigt. Heute liegt der Kern des Online-Vertrauens in der bewiesenen Identität. Der Zugang zu LLMs und Deepfake-Tools birgt ein zunehmendes Risiko von Online-Betrug. Organisierte Kriminelle sind gut finanziert und können nun die neueste Technologie im großen Maßstab nutzen.

Unternehmen müssen ihre Verteidigungslandschaft erweitern und dürfen nicht zögern, in Technologie zu investieren, auch wenn dies ein wenig Reibung verursacht. Es kann nicht mehr nur einen Verteidigungspunkt geben – sie müssen alle Datenpunkte im Zusammenhang mit der Person untersuchen, die Zugang zu den Systemen, Waren oder Dienstleistungen erhalten möchte, und während ihrer gesamten Reise weiterhin überprüfen.

Deepfakes werden weiterhin evolvieren und komplexer werden, und Unternehmensführer müssen kontinuierlich Daten von Lösungseinsätzen überprüfen, um neue Betrugsformen zu erkennen und ihre Cybersicherheitsstrategien kontinuierlich an die Bedrohungen anpassen. Deepfakes werden weiterhin evolvieren und komplexer werden, und Unternehmensführer müssen kontinuierlich Daten von Lösungseinsätzen überprüfen, um neue Betrugsformen zu erkennen und ihre Cybersicherheitsstrategien kontinuierlich an die Bedrohungen anpassen, Waren oder Dienstleistungen und während ihrer gesamten Reise weiterhin überprüfen.