Vertrauen in KI mit ID-Verifizierung aufbauen

Generative KI hat weltweit das Interesse von Unternehmen geweckt. Tatsächlich verwenden ​​60% der Unternehmen mit berichteter KI-Adoption nun generative KI. Heutige Führungskräfte sind bemüht, herauszufinden, wie sie KI-Tools in ihre Technologie-Stapel integrieren können, um wettbewerbsfähig und relevant zu bleiben – und KI-Entwickler erstellen mehr Tools als je zuvor. Aber mit der schnellen Adoption und der Natur der Technologie werden viele Sicherheits- und ethische Bedenken nicht vollständig berücksichtigt, während Unternehmen sich bemühen, die neueste und beste Technologie zu integrieren. Als Ergebnis schwindet das Vertrauen.

Eine aktuelle Umfrage ergab, dass nur 48% der Amerikaner glauben, dass KI sicher und sicher ist, während 78% sagen, dass sie sehr oder eher besorgt sind, dass KI für böswillige Absichten verwendet werden kann. Während KI dazu beiträgt, den täglichen Arbeitsablauf zu verbessern, sind Verbraucher besorgt über böswillige Akteure und ihre Fähigkeit, KI zu manipulieren. Deepfake-Fähigkeiten werden beispielsweise zu einer größeren Bedrohung, da die Zugänglichkeit der Technologie für die Massen zunimmt.

Ein KI-Tool zu haben ist nicht mehr genug. Damit KI ihr wahres, vorteilhaftes Potenzial erreicht, müssen Unternehmen KI in Lösungen integrieren, die einen verantwortungsvollen und tragbaren Einsatz der Technologie demonstrieren, um den Verbrauchern, insbesondere im Bereich der Cybersicherheit, wo Vertrauen entscheidend ist, mehr Vertrauen zu geben.

KI-Cybersicherheits-Herausforderungen

Die generative KI-Technologie entwickelt sich mit rasender Geschwindigkeit und Entwickler verstehen gerade erst die Bedeutung, diese Technologie in Unternehmen einzusetzen, wie es bei der jüngsten Einführung von ChatGPT Enterprise zu sehen ist.

Die aktuelle KI-Technologie ist in der Lage, Dinge zu erreichen, die vor weniger als einem Jahrzehnt nur in der Welt der Science-Fiction diskutiert wurden. Wie sie funktioniert, ist beeindruckend, aber die relativ schnelle Expansion, in der all dies geschieht, ist noch beeindruckender. Das ist es, was KI-Technologie so skalierbar und zugänglich für Unternehmen, Einzelpersonen und natürlich auch für Betrüger macht. Während die Fähigkeiten der KI-Technologie Innovationen vorangetrieben haben, hat ihre weite Verbreitung auch zur Entwicklung gefährlicher Technologien wie Deepfakes-as-a-Service geführt. Der Begriff “Deepfake” leitet sich von der Technologie ab, die diese spezielle Art von manipuliertem Inhalt (oder “Fake”) erzeugt, und erfordert die Verwendung von Deep-Learning-Techniken.

Betrüger werden immer dem Geld folgen, das ihnen den größten ROI bietet – jedes Unternehmen mit einem hohen potenziellen Ertrag wird also ihr Ziel sein. Das bedeutet, dass Fintech-Unternehmen, Unternehmen, die Rechnungen bezahlen, Regierungsdienste und Einzelhändler für hochwertige Waren immer an der Spitze ihrer Liste stehen werden.

Wir befinden uns an einem Punkt, an dem Vertrauen auf dem Spiel steht, und Verbraucher werden zunehmend misstrauischer, was Amateur-Betrügern mehr Chancen bietet, als je zuvor. Durch die neue Zugänglichkeit von KI-Tools und die zunehmend niedrigen Kosten ist es einfacher für Betrüger mit jedem Fähigkeitsniveau, Bilder und Identitäten zu manipulieren. Deepfake-Fähigkeiten werden durch Deepfake-Apps und -Websites für die Massen zugänglich und die Erstellung von komplexen Deepfakes erfordert sehr wenig Zeit und ein relativ niedriges Maß an Fähigkeiten.

Mit der Verwendung von KI haben wir auch eine Zunahme von Account-Übernahmen gesehen. KI-generierte Deepfakes machen es jedem leicht, Nachahmungen oder synthetische Identitäten zu erstellen, sei es von Prominenten oder sogar Ihrem Chef. ​​

KI- und Large-Language-Model-(LLM)-generative Sprachanwendungen können verwendet werden, um komplexere und schwer zu erkennende Betrügereien zu erstellen. LLMs insbesondere haben eine weit verbreitete Verwendung von Phishing-Angriffen ermöglicht, die Ihre Muttersprache perfekt sprechen. Diese schaffen auch das Risiko von “Romance-Betrug” im großen Maßstab, wenn eine Person über eine Dating-Website oder -App eine Verbindung zu jemandem aufbaut, aber die Person, mit der sie kommuniziert, ein Betrüger mit einem falschen Profil ist. Dies führt dazu, dass viele soziale Plattformen die Bereitstellung von “Beweisen der Menschlichkeit” in Betracht ziehen, um langfristig tragfähig zu bleiben.

Allerdings können die aktuellen Sicherheitslösungen, die Metadatenanalyse verwenden, keine Betrüger stoppen. Deepfake-Erkennung basiert auf Klassifizierern, die Unterschiede zwischen echten und falschen Inhalten erkennen. Diese Erkennung ist jedoch nicht mehr leistungsstark genug, da diese fortgeschrittenen Bedrohungen mehr Datenpunkte erfordern, um sie zu erkennen.

KI und Identitätsverifizierung: Zusammenarbeit

KI-Entwickler müssen sich darauf konzentrieren, die Technologie zu verwenden, um verbesserte Sicherheitsmaßnahmen für bewährte Cybersicherheitsmaßnahmen bereitzustellen. Dies wird nicht nur einen zuverlässigeren Einsatz von KI ermöglichen, sondern auch einen verantwortungsvolleren Einsatz fördern – besserer Cybersicherheitspraktiken, während die Fähigkeiten bestehender Lösungen weiterentwickelt werden.

Ein wichtiger Einsatzfall dieser Technologie ist die Identitätsverifizierung. Die KI-Bedrohungslandschaft entwickelt sich ständig weiter und Teams müssen mit Technologie ausgestattet sein, die schnell und einfach neue Techniken anpassen und implementieren kann.

Einige Möglichkeiten bei der Verwendung von KI mit Identitätsverifizierungstechnologie umfassen:

• Untersuchung wichtiger Geräteattribute
• Verwendung von Gegen-KI, um Manipulationen zu erkennen: Um nicht betrogen zu werden und wichtige Daten zu schützen, kann Gegen-KI die Manipulation von eingehenden Bildern erkennen.
• Behandlung des “Fehlens von Daten” als Risikofaktor in bestimmten Umständen
• Aktives Suchen nach Mustern über mehrere Sitzungen und Kunden hinweg

Diese schichtweise Verteidigung, die durch KI und Identitätsverifizierungstechnologie bereitgestellt wird, untersucht die Person, ihre behauptete Identitätsdokumentation, Netzwerk und Gerät und minimiert das Risiko der Manipulation als Ergebnis von Deepfakes, um sicherzustellen, dass nur vertrauenswürdige, echte Personen Zugang zu Ihren Diensten erhalten.

KI und Identitätsverifizierung müssen weiterhin zusammenarbeiten. Je robuster und vollständiger die Trainingsdaten sind, desto besser wird das Modell, und da KI nur so gut ist wie die Daten, die sie erhält, desto mehr Datenpunkte wir haben, desto genauer kann die Identitätsverifizierung und KI sein.

Zukunft von KI und ID-Verifizierung

Es ist schwierig, etwas im Internet zu vertrauen, es sei denn, es wird von einer vertrauenswürdigen Quelle bestätigt. Heute liegt der Kern des Online-Vertrauens in der bewiesenen Identität. Der Zugang zu LLMs und Deepfake-Tools birgt ein zunehmendes Online-Betrugsrisiko. Organisierte Kriminalitätsgruppen sind gut finanziert und können nun die neueste Technologie im großen Maßstab nutzen.

Unternehmen müssen ihre Verteidigungslandschaft erweitern und dürfen nicht zögern, in Technologie zu investieren, auch wenn dies ein wenig Reibung verursacht. Es kann nicht mehr nur einen Verteidigungspunkt geben – sie müssen alle Datenpunkte betrachten, die mit der Person verbunden sind, die versucht, Zugang zu den Systemen, Waren oder Diensten zu erhalten, und diese während ihrer gesamten Reise überprüfen.

Deepfakes werden weiterentwickelt und werden immer sophistizierter. Geschäftsführer müssen kontinuierlich Daten aus Lösungsbereitstellungen überprüfen, um neue Betrugsmodelle zu erkennen und ihre Cybersicherheitsstrategien kontinuierlich weiterentwickeln, um den Bedrohungen gerecht zu werden.