Будування довіри до штучного інтелекту за допомогою верифікації ідентифікації

Генеративний штучний інтелект захопив увагу підприємств по всьому світу. Насправді, ​​60% підприємств з заявленою адоптацією штучного інтелекту зараз використовують генеративний штучний інтелект. Сьогодні лідери перегоняють один одного, щоб визначити, як включити інструменти штучного інтелекту в свої технологічні стеки, щоб залишитися конкурентоспроможними та актуальними – і розробники штучного інтелекту створюють більше інструментів, ніж будь-коли раніше. Але з швидкою адоптацією та природою технології багато питань безпеки та етики не повністю розглядаються, оскільки підприємства поспішають включити останню та найкращу технологію. В результаті довіра знижується.

Останній опитування показало, що тільки 48% американців вважають штучний інтелект безпечним та захищеним, тоді як 78% кажуть, що вони дуже або досить стурбовані тим, що штучний інтелект можна використовувати для злих намірів. Хоча штучний інтелект був знайдений для поліпшення щоденних робочих процесів, споживачі стурбовані поганими акторами та їх здатністю маніпулювати штучним інтелектом. Можливості глибоких підробок, наприклад, стають все більшою загрозою, оскільки доступність технології для мас збільшється.

Мати інструмент штучного інтелекту вже не достатньо. Для того, щоб штучний інтелект досяг своєї справжньої, корисної потенції, підприємства повинні включити штучний інтелект у рішення, які демонструють відповідальне та життєздатне використання технології, щоб принести вищу довіру споживачам, особливо в кібербезпеці, де довіра є ключем.

Виклики кібербезпеки штучного інтелекту

Технологія генеративного штучного інтелекту розвивається з швидкою швидкістю, і розробники тільки зараз розуміють значення включення цієї технології в підприємства, як видно з недавнього запуску ChatGPT Enterprise.

Поточна технологія штучного інтелекту здатна досягати речей, про які раніше говорили тільки в сфері наукової фантастики менше десяти років тому. Як вона працює, вражає, але відносно швидке розширення, у якому все це відбувається, ще більш вражає. Це робить технологію штучного інтелекту такою масштабованою та доступною для компаній, осіб та, звичайно, шахраїв. Хоча можливості технології штучного інтелекту стали головною інновацією, її широке використання також привело до розробки небезпечної технології, chẳng hạn як глибокі підробки як послуга. Термін “глибока підробка” походить від технології, яка створює цей особливий стиль маніпульованого контенту (або “підробки”), який вимагає використання технік глибокого навчання.

Шахраї завжди будуть слідувати грошам, які дають їм найбільшу віддачу – тому будь-яке підприємство з високим потенційним доходом буде їхньою метою. Це означає фінтех, підприємства, які платять рахунки, урядові послуги та рітейлери високої вартості товарів завжди будуть на верхівці їхнього списку.

Ми знаходимося в ситуації, коли довіра під загрозою, а споживачі все менше довіряють, даючи аматорським шахраям більше можливостей, ніж будь-коли, для атаки. З новою доступністю інструментів штучного інтелекту та все нижчою вартістю тепер легше для поганих акторів будь-якого рівня маніпулювати зображеннями та ідентифікацією інших. Можливості глибоких підробок стають все більш доступними для мас через додатки та веб-сайти глибоких підробок, а створення складних глибоких підробок вимагає дуже мало часу та відносно низького рівня навичок.

З використанням штучного інтелекту ми також бачимо зростання кількості захоплень облікових записів. Штучний інтелект, створений глибокими підробками, робить легко для будь-кого створити підроблені ідентифікації або синтетичні ідентифікації, чи то ідентифікації знаменитостей, чи то ідентифікація вашого боса. ​​

Штучний інтелект та великомасштабні мови генерації (LLM) можуть бути використані для створення більш складної та евазивної шахрайства, яке важко виявити та видалити. LLM зокрема створили широке використання фішингових атак, які можуть говорити вашою рідною мовою досконало. Це також створює ризик “романтичної шахрайства” у масштабі, коли людина встановлює зв’язок з іншою людиною через веб-сайт чи додаток для знайомств, але особа, з якою вони спілкуються, є шахраєм, який використовує фальшивий профіль. Це призводить до того, що багато соціальних платформ розглядають можливість розгортання “доказів людяності”, щоб залишитися життєздатними у масштабі.

Однак ці поточні рішення безпеки, які використовують аналіз метаданих, не можуть зупинити поганих акторів. Виявлення глибоких підробок ґрунтується на класифікаторах, які шукають відмінності між справжнім та підробленим. Однак це виявлення вже не є достатньо потужним, оскільки ці складні загрози вимагають більше даних для виявлення.

Штучний інтелект та верифікація ідентифікації: робота разом

Розробники штучного інтелекту повинні зосередитися на використанні технології для надання покращених засобів захисту для перевірених заходів кібербезпеки. Це не тільки забезпечить більш надійний випадок використання штучного інтелекту, але також забезпечить більш відповідальне використання – заохочуючи кращі практики кібербезпеки, одночасно просунувши можливості існуючих рішень.

Одним з основних випадків використання цієї технології є верифікація ідентифікації. Ландшафт загроз штучного інтелекту постійно еволюціонує, і команди повинні бути оснащені технологією, яка може швидко та легко пристосовуватися та впроваджувати нові техніки.

Деякі можливості використання штучного інтелекту з технологією верифікації ідентифікації включають:

• Перевірка ключових атрибутів пристрою
• Використання контр-штучного інтелекту для ідентифікації маніпуляції: Для того, щоб не бути обманутими та захистити важливі дані, контр-штучний інтелект може ідентифікувати маніпуляцію надхідних зображень.
• Розгляд відсутності даних як фактору ризику в певних обставинах
• Активне пошук моделей у декількох сесіях та клієнтах

Ці шарові захисти, надані як штучним інтелектом, так і технологією верифікації ідентифікації, розслідують особу, її заявлені документи ідентифікації, мережу та пристрій, мінімізуючи ризик маніпуляції внаслідок глибоких підробок та забезпечення того, щоб тільки довірені, справжні люди отримували доступ до ваших послуг.

Штучний інтелект та верифікація ідентифікації повинні продовжувати працювати разом. Чим більш повна та повна тренувальна дані, тим краще модель працює, і оскільки штучний інтелект є тільки такою хорошою, як дані, які йому надають, чим більше даних, тим точніше верифікація ідентифікації та штучний інтелект можуть бути.

Майбутнє штучного інтелекту та верифікації ідентифікації

Важко довіряти будь-чому в Інтернеті, якщо це не доведено надійним джерелом. Сьогодні основа довіри в Інтернеті полягає в перевіреній ідентифікації. Доступність до великомасштабних мов генерації (LLM) та інструментів глибоких підробок створює зростаючий ризик шахрайства в Інтернеті. Організовані злочинні групи добре фінансуються та тепер можуть використовувати останні технології у більшому масштабі.

Компанії повинні розширити свій ландшафт захисту, і не повинні боятися інвестувати в технології, навіть якщо це додає трохи тертя. Не може бути тільки одна точка захисту – їм потрібно розглянути всі дані, пов’язані з людиною, яка намагається отримати доступ до систем, товарів чи послуг і продовжувати верифікацію на всьому їхньому шляху.

Глибокі підробки продовжуватимуть еволюціонувати та ставати все більш складними, керівники підприємств повинні постійно переглядати дані про розгортання рішень, щоб ідентифікувати нові моделі шахрайства та працювати над еволюцією своїх стратегій кібербезпеки постійно поряд із загрозами.