Представіть собі таке: ви працюєте, зосереджені на терміновому проекті, коли отримуєте дзвінок від номера, який видається за номер вашої матері. Голос на іншому кінці лінії незаперечно належить їй, спокійний і люблячий, але з незвичайним натяком на терміновість. Вона розповідає, що потрапила у великі неприємності під час відпустки в Парижі і потребує вашої фінансової допомоги якомога швидше, щоб все виправити. Ви знаєте, що вона дійсно перебуває в Парижі, і деталі, які вона надає, аж до назви її готелю, роблять дзвінок ще більш переконливим. Без другої думки ви переказуєте гроші, лише щоб пізніше дізнатися, що ваша мати ніколи не робила того дзвінка; це була розгорнута система штучного інтелекту, яка ідеально імітувала її голос і вигадувала детальну ситуацію. Вам пробігає по спині холодок, коли ви усвідомлюєте, що тільки що відбулося.

Цей сценарій, який раніше був чистою науковою фантастикою, тепер стає реальністю. Зорієнтування технологій штучного інтелекту, таких як великі мовні моделі (LLM), принесло неймовірні досягнення. Однак на горизонті з’являється значна загроза: шахрайства, підтримувані штучним інтелектом. Потенціал для складних шахрайств, підтримуваних штучним інтелектом, являє собою нову загрозу на тлі технологічного прогресу. Хоча телефонні шахрайства були проблемою з моменту винайдення телефону, широке впровадження великих мовних моделей (LLM) у кожний аспект цифрового спілкування значно підвищує ставки. Коли ми приймаємо потенціал штучного інтелекту, ми також повинні посилити наші засоби захисту проти цих дедалі більш складних загроз.

Поточний ландшафт телефонних шахрайств

Злочинці протягом років намагалися обманути невігласних осіб, щоб вони переказували гроші або розкривали конфіденційну інформацію, але попри поширеність телефонних шахрайств, багато з цих шахрайств відносно прості, спираючись на людський сценарій, який читає оператор. Однак навіть з цією обмеженістю телефонні шахрайства продовжують бути прибутковим злочинним підприємством.

За даними Федеральної торгової комісії США, у 2022 році американці втратили понад 8,8 мільярдів доларів через шахрайства, з яких значна частина була пов’язана з телефонними шахрайствами, що означає, що навіть у їхній поточній, менш розвиненій формі, багато з цих тактик усе ще працюють на вразливих особах. Що відбувається, коли вони еволюціонують?

Майбутнє шахрайств, підтримуване штучним інтелектом

Ландшафт телефонних шахрайств готується до драматичної зміни з появою кількох ключових технологій:

Великі мовні моделі (LLM)

Ці системи штучного інтелекту можуть генерувати текст, подібний до людського, і вступати у природні розмови. Коли їх застосовують до шахрайства, LLM можуть створювати високо переконливі та адаптивні сценарії, що робить його ще більш складним для потенційних жертв ідентифікувати шахрайство.

Технологія генерації з підтримкою пошукових запитів (RAG)

Ця технологія дозволяє системам LLM отримувати доступ і використовувати величезні об’єми інформації в режимі реального часу. Шахраї можуть створити профіль особи на основі її публічно доступної інформації, такої як її соціальні мережі. Вони також можуть використовувати техніки соціальної інженерії щодо друзів і родини, щоб зібрати глибшу інформацію. Це дасть їм доступ до інформації про ідентичність особи, інформацію про роботу або навіть недавні дії. Вони можуть потім використовувати RAG, щоб надати LLM контекст, необхідний для того, щоб їхній підхід здавався неймовірно персоналізованим і легітимним.

Синтетична генерація аудіо

Платформи, такі як Resemble AI і Lyrebird, очолюють розвиток технологій створення надзвичайно реалістичних аудіозаписів, підтримуваних штучним інтелектом. Ці технології здатні виробляти персоналізовані, людські аудіозаписи, які можна використовувати в різних додатках, починаючи від віртуальних помічників і закінчуючи автоматизованою службою клієнтської підтримки та створенням контенту. Компанії, такі як ElevenLabs, ще далі розширюють межі, дозволяючи користувачам створювати синтетичні голоси, які можуть тісно повторювати їхній власний голос, забезпечуючи новий рівень персоналізації та взаємодії в цифрових взаємодіях.

Синтетична генерація відео

Компанії, такі як Synthesia, вже демонструють потенціал створення реалістичних відеоконтентів з аватарами, підтримуваними штучним інтелектом. У найближчі роки ця технологія могла б дозволити шахраям видавати себе за друзів чи членів родини або створювати цілком фіктивних осіб для відеодзвінків, вводячи раніше неможливий рівень фізичної реальності в шахрайство.

Синхронізація руху губ штучним інтелектом

Стартапи, такі як Sync Labs, розробляють передову технологію синхронізації руху губ, яка може збігати згенерований аудіо з відеозаписами. Це можна використовувати для створення високо переконливих відеороликів з історичними постатями, політиками, знаменитостями та практично будь-ким іншим, ще більше розмиваючи межу між реальністю і обманом.

Комбінація цих технологій малює досить тривожну картину. Представіть собі дзвінок шахрая, який може адаптувати свою розмову в режимі реального часу, озброївшись персональною інформацією про ціль, і навіть перейти на відеодзвінок з людиною, чиї губи рухаються в ідеальній синхронізації з згенерованим голосом. Потенціал для обману є справді величезним.

Потрібність посилення заходів безпеки

Когда ці шахрайства, підтримувані штучним інтелектом, стають дедалі більш складними, методи верифікації ідентичності та автентичності повинні розвиватися в ногу з досягненнями штучного інтелекту. Будуть потрібні нормативні, а також технологічні досягнення, щоб утримувати онлайн-суспільство в безпеці.

Нормативні поліпшення

Суворіші закони про захист даних: впровадження більш суворих законів про захист даних обмежить кількість персональної інформації, яку можуть використати шахраї. Ці закони можуть включати суворіші вимоги до збору даних, покращені протоколи згоди користувачів та більш суворі покарання за порушення даних.

Приватний хмарний сервіс для найпотужніших моделей штучного інтелекту: нормативні акти можуть зобов’язати розміщувати найпотужніші моделі штучного інтелекту на приватних, безпечних хмарних інфраструктурах, а не робити їх відкрито доступними. Це обмежить доступ до найрозвітліших технологій, зробивши його більш складним для зловмисників використовувати їх для шахрайств. (наприклад, https://security.apple.com/blog/private-cloud-compute/)

Міжнародна співпраця щодо регулювання штучного інтелекту: враховуючи глобальний характер технологій штучного інтелекту, міжнародна співпраця щодо нормативних стандартів могла б бути корисною. Створення глобального органу, відповідального за створення та забезпечення міжнародних правил штучного інтелекту, могло б допомогти у боротьбі з транснаціональними злочинами, пов’язаними зі штучним інтелектом.

Кампанії з підвищення осведомленості громадськості: уряди та нормативні органи повинні інвестувати у кампанії з підвищення осведомленості громадськості щодо потенційних ризиків шахрайств, підтримуваних штучним інтелектом, та про те, як захистити себе. Осведомленість є критичним першим кроком у наділі людей та організацій можливістю впроваджувати необхідні заходи безпеки.

Поточні нормативні акти щодо штучного інтелекту є недостатніми для запобігання шахрайствам, а завдання майбутнього регулювання ускладнюється відкритим характером багатьох потужних технологій. Ця відкритість дозволяє будь-кому отримувати доступ і модифікувати ці технології для власних цілей. Отже, поряд із більш суворими правилами потрібні досягнення у сфері безпеки.

Виявлення синтетичних даних

Виявлення синтетичного аудіо: коли шахраї використовують штучний інтелект, так само повинні розвиватися і наші засоби захисту. Компанії, такі як Pindrop, розробляють системи, підтримувані штучним інтелектом, які можуть виявляти синтетичне аудіо в режимі реального часу під час дзвінків. Їхня технологія аналізує понад 1300 функцій аудіо дзвінка, щоб визначити, чи походять вони від реальної людини чи складної системи штучного інтелекту.

Виявлення синтетичного відео: компанії, такі як Deepware, очолюють розвиток технологій виявлення синтетичного відео. Платформа Deepware використовує передові алгоритми машинного навчання для аналізу тонких несумісностей у відеоданих, таких як нерівномірні рухи, неправильне освітлення та аномалії пікселів, які часто присутні у контенті, згенерованому штучним інтелектом. Визначаючи ці розбіжності, технологія Deepware може визначити, чи є відео справжнім, чи було воно змінено, допомагаючи захистити людей та організації від обману складними відео-шахрайствами та кампаніями дезінформації.

Ідентифікація та автентифікація

Розробляються різні методи підтвердження ідентичності користувача, і одна або кілька з них стануть загальноприйнятими в найближчі роки, щоб зробити Інтернет безпечнішим.

Двокрокова автентифікація для віддалених розмов: двофакторна автентифікація (2FA) залишається фундаментальним компонентом безпечної комунікації. За цим методом кожен дзвінок або електронний лист спричиняє надсилання текстового повідомлення з унікальним кодом верифікації, подібним до поточної реєстрації електронної пошти. Хоча 2FA є ефективним для базової автентифікації, його обмеження означають, що на нього не можна покладатися в усіх контекстах, тому необхідне розвиток більш просунутих методів для забезпечення повної безпеки Інтернету, які можуть працювати на задньому плані.

Автентифікація, заснована на поведінці, з багаторівневою автентифікацією: за межами простої верифікації ідентичності на початку дзвінка майбутні системи безпеки можуть безперервно аналізувати поведінку протягом усього взаємодіювання. Компанії, такі як BioCatch, використовують біометричні дані про поведінку для створення профілів користувачів на основі того, як люди взаємодіють зі своїми пристроями. Ця технологія може виявляти аномалії у поведінці, які можуть свідчити про те, що шахрай використовує вкрадену інформацію, навіть якщо вони пройшли початкові перевірки автентифікації.

Автентифікація, заснована на біометричних даних: компанії, такі як Onfido, очолюють розвиток технологій біометричної верифікації, пропонуючи інструменти верифікації ідентичності, підтримувані штучним інтелектом, які можуть виявляти складні глибокі фейки та інші форми шахрайства з ідентичністю. Їхня система використовує комбінацію верифікації документів та біометричного аналізу, щоб забезпечити, що особа на іншому кінці дзвінка або відеочату є саме тією, за кого вона себе видає.

Розширена автентифікація, заснована на знаннях: майбутні системи автентифікації можуть включати динамічні, згенеровані штучним інтелектом питання, засновані на цифровому сліді користувача та недавніх діях. Наприклад, Prove, компанія, що спеціалізується на ідентифікації, орієнтованій на телефон, розробляє рішення, які використовують телефонну інтелект та аналіз поведінки для верифікації ідентичності. Їхня технологія може аналізувати закономірності використання пристрою людиною, щоб створити унікальний “ідентифікаційний підпис”, який значно складніше для шахраїв відтворити.

Автентифікація, заснована на блокчейні: технологія блокчейну пропонує децентралізований і незмінний метод верифікації ідентичності. Компанії, такі як Civic, очолюють розвиток систем верифікації ідентичності, заснованих на блокчейні, які дозволяють користувачам контролювати свою персональну інформацію, забезпечуючи при цьому безпечну автентифікацію. Ці системи створюють верифікований, незмінний запис про ідентичність особи, що є ідеальним для управління високоризикованими транзакціями.

Висновок

Збіг великих мовних моделей, технології генерації з підтримкою пошукових запитів, синтетичної генерації аудіо, синтетичної генерації відео та синхронізації руху губ штучним інтелектом є певною мірою двосічний меч. Хоча ці досягнення мають величезний потенціал для позитивних застосувань, вони також становлять значні ризики, коли їх озброюють шахраї.

Ця триваюча гонка озброєння між експертами з безпеки та кіберзлочинцями підкреслює необхідність безперервної інновації та пильності у сфері цифрової безпеки. Ми можемо працювати над тим, щоб використовувати переваги цих потужних інструментів, одночасно пом’якшуючи їхній потенціал для шкоди, лише визнаючи та готуючись до цих ризиків.

Справжня небезпека мовних моделей полягає в тому, що вони можуть бути використані для створення складних шахрайств. Тому важливо бути обережним при взаємодії з невідомими особами в Інтернеті або по телефону. Комплексне регулювання, освіта щодо цих нових форм шахрайств, інвестиції в передові заходи безпеки та, можливо, найважливіше, здоровий скептицизм кожної людини при взаємодії з невідомими особами в Інтернеті або по телефону будуть необхідними для навігації в цьому новому ландшафті.