Создание доверия к ИИ с помощью верификации личности

Генеративный ИИ привлёк внимание бизнеса во всём мире. Фактически, ​​60% организаций, внедривших ИИ, сейчас используют генеративный ИИ. Сегодня лидеры бизнеса спешат определить, как включить инструменты ИИ в свои технологические стеки, чтобы оставаться конкурентоспособными и актуальными – и разработчики ИИ создают больше инструментов, чем когда-либо прежде. Однако с быстрым внедрением и природой технологии многие проблемы безопасности и этики не полностью учитываются, когда бизнес спешит включить последние и лучшие технологии. В результате доверие уменьшается.

Недавний опрос показал, что только 48% американцев считают ИИ безопасным и защищённым, в то время как 78% говорят, что они очень или несколько обеспокоены тем, что ИИ может быть использован для злонамеренных целей. Хотя ИИ был найден для улучшения ежедневных рабочих процессов, потребители обеспокоены злонамеренными акторами и их способностью манипулировать ИИ. Возможности глубоких фейков, например, становятся всё больше угрозой, поскольку технология становится более доступной для масс.

Иметь инструмент ИИ больше не достаточно. Чтобы ИИ достиг своего истинного, полезного потенциала, бизнесу необходимо включать ИИ в решения, которые демонстрируют ответственное и жизнеспособное использование технологии, чтобы повысить доверие потребителей, особенно в кибербезопасности, где доверие является ключом.

Проблемы кибербезопасности ИИ

Технология генеративного ИИ прогрессирует с быстрой скоростью, и разработчики только сейчас начинают понимать значение включения этой технологии в корпоративный сектор, как видно из недавнего запуска ChatGPT Enterprise.

Текущая технология ИИ способна достигать вещей, которые были только в области научной фантастики менее десяти лет назад. То, как она работает, впечатляет, но относительно быстрое расширение, с которым всё это происходит, ещё более впечатляет. Это то, что делает технологию ИИ такой масштабируемой и доступной для компаний, людей и, конечно, мошенников. Хотя возможности технологии ИИ возглавили инновации, их широкое использование также привело к разработке опасных технологий, таких как глубокие фейки в качестве услуги. Термин “глубокий фейк” происходит от технологии, создающей этот особый стиль манипулированного контента (или “фейка”), требующего использования глубоких техник обучения.

Мошенники всегда будут следовать за деньгами, которые предоставляют им наибольшую отдачу – поэтому любой бизнес с высоким потенциальным доходом будет их целью. Это означает финтех, бизнес, оплачивающий счета, государственные услуги и розничные продавцы высокоценных товаров всегда будут вверху их списка.

Мы находимся в месте, где доверие находится на грани, и потребители становятся всё менее доверчивыми, давая любителям больше возможностей, чем когда-либо, для атаки. С новой доступностью инструментов ИИ и всё более низкой стоимостью теперь легче для злонамеренных акторов любого уровня навыков манипулировать изображениями и идентификациями других. Возможности глубоких фейков становятся более доступными для масс через приложения и веб-сайты глубоких фейков, и создание сложных глубоких фейков требует очень мало времени и относительно низкого уровня навыков.

С использованием ИИ мы также видим увеличение количества захватов учётных записей. Глубокие фейки, сгенерированные ИИ, делают легко для кого угодно создать имитации или синтетические идентификации, будь то знаменитости или даже ваш босс. ​​

ИИ и приложения генеративного языка Большой Языковой Модели (LLM) могут быть использованы для создания более сложных и изобретательных мошенничеств, которые трудно обнаружить и удалить. LLM в частности создали широкое использование фишинговых атак, которые могут говорить вашим родным языком идеально. Это также создают риск “романтического мошенничества” в масштабе, когда человек устанавливает связь с кем-то через веб-сайт или приложение для знакомств, но человек, с которым они общаются, является мошенником, использующим фальшивый профиль. Это приводит многих социальных платформ к рассмотрению возможности развертывания “доказательств человечности”, чтобы оставаться жизнеспособными в масштабе.

Однако эти текущие решения безопасности, которые используют анализ метаданных, не могут остановить злонамеренных акторов. Обнаружение глубоких фейков основано на классификаторах, которые ищут различия между реальным и фейковым. Однако это обнаружение больше не является достаточно мощным, поскольку эти продвинутые угрозы требуют больше точек данных для обнаружения.

ИИ и верификация личности: работа вместе

Разработчики ИИ должны сосредоточиться на использовании технологии для предоставления улучшенных гарантий для проверенных мер кибербезопасности. Это не только обеспечит более надёжный случай использования ИИ, но также будет способствовать более ответственной использованию – поощряя лучшие практики кибербезопасности, одновременно продвигая возможности существующих решений.

Одним из основных случаев использования этой технологии является верификация личности. Ландшафт угроз ИИ постоянно эволюционирует, и командам необходимо быть оснащёнными технологией, которая может быстро и легко корректировать и реализовывать новые техники.

Некоторые возможности использования ИИ с технологией верификации личности включают:

• Исследование ключевых атрибутов устройства
• Использование противо-ИИ для выявления манипуляций: Чтобы избежать обмана и защитить важные данные, противо-ИИ может выявить манипуляцию входящих изображений.
• Относиться к “отсутствию данных” как к фактору риска в определённых обстоятельствах
• Активно искать закономерности в нескольких сессиях и клиентах

Эти многослойные защиты, обеспеченные как ИИ, так и технологией верификации личности, исследуют человека, его заявленную идентификацию, сеть и устройство, минимизируя риск манипуляции в результате глубоких фейков и гарантируя, что только доверенные, настоящие люди получают доступ к вашим услугам.

ИИ и верификация личности должны продолжать работать вместе. Чем более полные и надёжные данные для обучения, тем лучше модель становится, и поскольку ИИ только так хорош, как данные, которые он получает, чем больше точек данных мы имеем, тем более точной может быть верификация личности и ИИ.

Будущее ИИ и верификации личности

Трудно доверять чему-либо в Интернете, если это не доказано надёжным источником. Сегодня основа доверия в Интернете заключается в проверенной идентификации. Доступность LLM и инструментов глубоких фейков представляет растущий риск онлайн-мошенничества. Организованные преступные группы хорошо финансируются и теперь они могут использовать последние технологии в большем масштабе.

Компаниям необходимо расширить свой ландшафт защиты, и они не должны бояться инвестировать в технологии, даже если это добавляет немного трения. Не может быть только одной точки защиты – они должны рассматривать все точки данных, связанные с человеком, который пытается получить доступ к системам, товарам или услугам и продолжать проверять на протяжении всего их пути.

Глубокие фейки будут продолжать эволюционировать и становиться более сложными, лидеры бизнеса должны постоянно проверять данные из развертывания решений, чтобы выявить новые закономерности мошенничества и работать над эволюцией своих стратегий кибербезопасности непрерывно вместе с угрозами.