Дикі Захід штучного інтелекту: підрив під шахрайство

Ми перебуваємо в центрі золота лихорадка штучного інтелекту. Ця технологія розвивається, демократизуючи доступ до всього, від автоматичної генерації контенту до алгоритмічного прийняття рішень. Для бізнесу це означає можливість. Для шахраїв це означає вільну руку.

Діпфейки, штучні ідентичності та автоматизовані шахрайства вже не є периферійними тактиками. За даними Deloitte, генеративний штучний інтелект може збільшити втрати від шахрайства до понад 40 мільярдів доларів у США до 2027 року. Ці інструменти потужні та в основному не регулюються. Що залишається нам, це беззаконна цифрова межа, де наслідки розгортаються в реальному часі, одна з яких інновації та експлуатація часто виглядають ідентично.

Штучний інтелект знижує бар’єр для входу

Штучний інтелект сплющує криву навчання для кіберзлочинності. З лише одним запитом і підключенням до інтернету майже кожен може запустити складну атаку: переконливу фішингову кампанію, видаючи себе за довірену особу або фабрикуючи цілу цифрову ідентичність. Що раніше вимагало експертизи, тепер вимагає лише наміру. Тактики шахрайства масштабуються, як стартапи: тестуються, ітеруються та запускаються за кілька годин, а не тижнів.

Побоюються, ці шахрайства не тільки частіше; вони більш переконливі. Штучний інтелект дозволив їм персоналізувати шахрайство у масштабі, якого раніше не було — імітуючи мову та поведінку, клонуючи соціальну поведінку та адаптуючись до нових захистів у реальному часі. Це призвело до зростання низькозатратних, високоефективних атак. Коли технологія продовжує розвиватися, існуючі інструменти, які використовуються для виявлення та зупинки цього, відстають ще більше.

Рост штучних ідентичностей та економік діпфейків

Наступна еволюція штучного інтелекту не тільки буде імітувати реальність, а й виготовляти її цілком. Шахрайство з штучними ідентичностями швидко стає однією з найшвидше зростаючих загроз. Це спонукається генеративними моделями штучного інтелекту, які створюють життєві персони з фрагментів вкрадених даних. За даними Datos Insights, понад 40% фінансових установ вже бачили зростання атак, пов’язаних з генерацією штучних ідентичностей, тоді як втрати, пов’язані з цими тактиками, перевищили 35 мільярдів доларів у 2023 році. Ці цифрові підробки обманюють не тільки людей, а й біометричні та документальні системи верифікації, підриваючи довіру в процесах онбордингу та дотримання вимог.

Регулятори проводять лінії в піщаному ґрунті

Пolicymakers починають діяти, але вони переслідують рухому ціль. Фреймворки, такі як закон ЄС про штучний інтелект та план штучного інтелекту Федеральної торгової комісії, показують прогрес у встановленні правил для етичного розвитку та розгортання штучного інтелекту, але шахрайство не чекає, поки регулювання наздожене. До того часу, як правила будуть визначені, тактики вже еволюціонували.

Ця регуляторна затримка залишає небезпечну прогалину, в якій сучасні компанії змушені діяти як інноватори та виконавці. Без загального глобального стандарту ризиків штучного інтелекту організації повинні саморегулюватися, будувати自己的 захист, інтерпретувати ризики самостійно та нести наслідки як інновацій, так і відповідальності.

Боротьба з вогнем вогнем: Що виглядає ефективна оборона

Щоб збігати з темпом штучного інтелекту, організації повинні прийняти той же спосіб мислення: гнучкий, автоматизований та даних-орієнтований. Найефективніші захисти сьогодні покладаються на виявлення ризиків у реальному часі з допомогою штучного інтелекту: системи, які можуть визначити підозрілу поведінку до того, як вона ескалує, та адаптуватися до нових моделей атак без втручання людини.

На щастя, дані, необхідні для цього захисту, вже доступні для більшості бізнесів, пасивно зібрані через повсякденні цифрові взаємодії. Кожен клік, входу, конфігурації пристрою, IP-адреси та поведінкового сигналу допомагає створити детальну картину того, хто знаходиться за екраном. Це включає інтелект пристрою, біометричні дані поведінки, мережеві метадані та сигнали, такі як вік адреси електронної пошти та присутність у соціальних мережах.

Правdziва цінність полягає в перетворенні цих розрізнених сигналів у відповідні знання. Коли аналізується з допомогою штучного інтелекту, ці різні дані дозволяють швидше виявляти аномалії, приймати більш точні рішення та краще адаптуватися до еволюції загроз. Замість того, щоб розглядати кожну взаємодію окремо, сучасні системи захисту від шахрайства безперервно контролюють підозрілу поведінку, підозрілі зв’язки та відхилення від типової поведінки. З’єднуючи точки у реальному часі, вони дозволяють проводити більш точні, контекстно-орієнтовані оцінки ризиків та зменшувати кількість хибних позитивних результатів.

Однак захист, який використовує штучний інтелект, не означає видалення людей з циклу. Людське спостереження є важливим для забезпечення пояснюваності, зменшення упередженості та реагування на крайні випадки, яких автоматизовані системи можуть пропустити.

Переоцінка довіри у світі реального часу

Адаптація до цієї загрози не тільки полягає у прийнятті розумніших інструментів. Це вимагає переоцінки того, як ми визначаємо ризик та оперціоналізуємо довіру. Традиційні моделі виявлення шахрайства часто покладаються на історичні дані та статичні правила. Ці підходи є крихкими у разі динамічних загроз штучного інтелекту, які еволюціонують щодня. Замість цього організації повинні перейти до контекстно-орієнтованого прийняття рішень, використовуючи сигнали поведінки у реальному часі, дані пристрою та мережеві моделі для формування більшої картини намірів користувача.

Важливо, що системи з людиною в циклі посилюють цю структуру, поєднуючи аналітичну точність штучного інтелекту з експертними судженнями, забезпечуючи, щоб підозрілі аномалії розглядалися у контексті, хибні позитиви мінімізувалися та рішення про довіру еволюціонували через безперервну людську зворотню зв’язок. Ця зміна не тільки технічна; це культурна.

Профілактика шахрайства вже не може бути ізольованою як функція бекенду. Вона повинна стати частиною ширшої стратегії довіри, інтегрованої з онбордингом, дотриманням вимог та клієнтським досвідом. Це означає, що міжфункціональні команди повинні ділитися знаннями, узгоджувати ризик та проектувати системи, які балансують захист із доступністю.

Це також вимагає розуміння, яке цінує гнучкість над жорсткістю. Коли штучний інтелект переозначає швидкість та масштаб шахрайства, здатність швидко адаптуватися, контекстно та безперервно стає новим стандартом для того, щоб залишатися попереду. Ми не можемо зупинити кожну спробу шахрайства, але ми можемо проектувати системи, які помиляються розумніше, відновлюються швидше та вчаться у реальному часі.

Ніхто не може виграти гонку озброєнь проти шахрайства

Не існує остаточної перемоги у боротьбі проти шахрайства, яке використовує штучний інтелект. Кожна нова оборона запрошує розумнішу, швидшу контратаку. Шахраї діють з меншими обмеженнями, адаптуються у реальному часі та використовують ті самі моделі штучного інтелекту, які використовують компанії, яких вони атакують.

У цьому новому цифровому дикому заході шахраї рухаються швидко, ламають речі та не зустрічають жодних регуляторних чи етичних обмежень, які сповільнюють легітимні бізнеси. І нам усі потрібно прийняти цю нову реальність: штучний інтелект буде використовуватися злим акторам. Єдиний сталий відповідь полягає у використанні штучного інтелекту як стратегічної переваги для побудови систем, які є такими ж швидкими, гнучкими та постійно еволюціонуючими, як загрози, яких вони протистоять. Адже у світі, де кожен може використовувати штучний інтелект, стояти на місці означає повну капітуляцію.