Каарел Коткас, генеральный директор и основатель Veriff – Интервью

Каарел Коткас является генеральным директором и основателем Veriff и выступает в качестве стратегического мыслителя и видения компании. Он возглавляет команду Veriff в борьбе с мошенничеством и конкуренцией в быстро меняющейся области онлайн-идентификации. Известный своей энергией и энтузиазмом, Коткас鼓ощает команду поддерживать честность в цифровом мире. В 2023 году он был признан в списке EU Forbes 30 Under 30, а в 2020 году был назван предпринимателем года в Эстонии по версии EY. Североевропейский деловой отчет также включил его в число 25 самых влиятельных молодых предпринимателей в Северной Европе.

Veriff – это глобальная компания по верификации личности, которая помогает онлайн-бизнесу сократить мошенничество и соблюдать нормативные требования. Используя ИИ, Veriff автоматически проверяет личность путем анализа различных технологических и поведенческих индикаторов, включая распознавание лиц.

Что вдохновило вас на создание Veriff, и какие проблемы вы столкнулись при построении платформы по предотвращению мошенничества на основе ИИ?

Моя мотивация для создания Veriff возникла после того, как я сталкивался с проблемой онлайн-идентификации. Когда я покупал биоразлагаемую веревку на eBay для фермы моей семьи в 14 лет, я легко обошел ограничения PayPal (PYPL ) для пользователей старше 18 лет, изменив год рождения в копии моего удостоверения личности с помощью Photoshop.

Я продолжал сталкиваться с этой проблемой и понял, что люди онлайн могут легко выдавать себя за других. Именно это вдохновило меня на создание Veriff.

Что касается проблем, то через год после основания компании мы дали нашей команде выходной. Именно в этот день мы исправили ошибку, которая привела к полному нарушению наших возможностей по мониторингу. Мы не заметили, что наша служба перестала работать, пока не наступило субботнее утро. К понедельнику мне пришлось встретиться с нашим крупнейшим клиентом, который потерял тысячи долларов из-за нашей ошибки. Я был прозрачным в том разговоре, объяснив ошибки на нашей стороне. Мы пожали друг другу руки и вернулись к работе. Из этого я узнал, что как основатель и лидер бизнеса, мы должны ожидать и готовиться к проблемам. Кроме того, прозрачность является ключом к построению доверия. Наконец, демонстрация истории преодоления проблем может оказаться более ценной, поскольку она показывает, что вы можете успешно решать проблемы и являетесь устойчивыми.

Учитывая, что глубокие фейки становятся более совершенными, особенно в политических контекстах, какие, по вашему мнению, являются наиболее значительными рисками, которые они представляют для выборов и демократии?

В этом избирательном сезоне целостность избирательного процесса находится под угрозой. ИИ может анализировать огромные объемы данных, чтобы выявить предпочтения и тенденции избирателей, что позволяет кампаниям адаптировать сообщения и нацеливаться на избирателей с сообщениями, которые они больше всего ценят. Злоумышленники хорошо оснащены для создания ложных нарративов о кандидатах, выполняющих действия, которые они никогда не совершали, или делающих заявления, которые они никогда не делали, тем самым нанося ущерб их репутации и вводя избирателей в заблуждение.

Мы уже видели глубокие фейки знаменитостей, поддерживающих кандидатов в президенты и фейковый автоматический звонок Байдена. Хотя существуют технологии, которые могут помочь различать контент, сгенерированный ИИ, и настоящий, они не являются жизнеспособными для широкого внедрения. С учетом высоких ставок и подлинности выборов что-то должно быть сделано, чтобы сохранить общественное доверие. Будущее роста цифровой экономики и борьбы с цифровым мошенничеством зависит от проверенных личностей и аутентичных онлайн-аккаунтов.

Можете ли вы сказать, что один из носителей более опасен, чем другой, когда речь идет об обмане избирателей?

В целом, особенно в контексте выборов в США, оба должны быть рассмотрены как равные угрозы демократии. Наш последний отчет Veriff Fraud Index 2024: Часть 2 показал, что 74% респондентов в США обеспокоены влиянием ИИ и глубоких фейков на выборы.

Эволюция ИИ ускорила угрозу безопасности не только в США, но и во всем мире, в ходе нынешних выборов. Будь то глубокие фейки-изображения, ИИ-генерируемые голоса в автоматических звонках, пытающихся исказить мнения избирателей, или фабрикованные видео кандидатов, они оба вызывают обоснованную обеспокоенность.

Давайте посмотрим на большую картину. Когда есть много точек данных, легче оценить “уровень угрозы”. Одно изображение может быть недостаточно, чтобы определить, является ли оно фальшивым, но видео предоставляет больше подсказок, особенно если оно имеет аудио. Добавление деталей, таких как устройство, используемое для записи, местоположение или кто записал видео, увеличивает уверенность в его подлинности. Мошенники всегда пытаются ограничить объем информации, поскольку это делает ее легче манипулировать. Я считаю, что автоматические звонки более опасны, чем глубокие фейки, поскольку создание фейкового аудио легче, чем генерирование высококачественных фейковых видео. Кроме того, использование моделей обработки языка позволяет изменять фейковое аудио во время звонков, что делает его еще более убедительным.

Учитывая предстоящие выборы, о чем должны быть наиболее обеспокоены правительства и избирательные комиссии в отношении ИИ-индуцированной дезинформации?

Правительства и избирательные комиссии должны понять потенциальный объем возможностей глубоких фейков, включая то, насколько совершенными и убедительными эти мошенничества стали. Глубокие фейки особенно эффективны, когда они используются против предприятий с несогласованными и несоответствующими процессами управления идентификацией и плохой кибербезопасностью, что делает еще более критичным внедрение надежных мер безопасности или многослойного подхода к безопасности.

Однако нет универсального решения, поэтому координированный, многофакторный подход является ключевым. Это может включать в себя комплексные проверки документов, удостоверяющих личность, противо-ИИ для выявления манипуляций входящих изображений, особенно в отношении дистанционного голосования, и, самое главное, выявление создателей глубоких фейков и фейковых контентов на источнике. Ответственность за проверку голосов лежит на правительствах и избирательных комиссиях, а также на технологических и идентификационных провайдерах.

Какую роль могут сыграть ИИ и технологии верификации личности, такие как Veriff, в противодействии влиянию глубоких фейков на выборы и политические кампании?

ИИ является угрозой и возможностью. Почти 78% руководителей США видели увеличение использования ИИ в мошеннических атаках за последний год. С другой стороны, почти 79% руководителей используют ИИ и МО в предотвращении мошенничества. В время, когда мошенничество нарастает, стратегии предотвращения мошенничества должны быть комплексными – ни один инструмент не может бороться с такой многогранной угрозой. Однако ИИ и верификация личности могут дать бизнесу и пользователям многослойный стек, который включает биометрию, верификацию личности, перекрестные ссылки и другие решения, чтобы опережать мошенников.

В Veriff мы используем свою собственную технологию на основе ИИ для построения наших возможностей по обнаружению глубоких фейков. Это означает, что наши инструменты улучшаются с учетом опыта, когда мы встречаем глубокие фейки. Анализ больших объемов данных для выявления закономерностей, которые появлялись ранее, для определения будущих результатов, зависит как от автоматизированных технологий, так и от человеческих знаний и интеллекта. Люди лучше понимают контекст, выявляют аномалии и создают обратную связь, которая может быть использована для улучшения моделей ИИ. Объединение различных прозрений и экспертизы для создания комплексного подхода к верификации личности и обнаружению глубоких фейков позволило Veriff и ее клиентам оставаться впереди кривой.

Как могут бизнес и отдельные лица лучше защитить себя от влияния глубоких фейков и ИИ-индуцированной дезинформации?

Защита от влияния глубоких фейков и ИИ-индуцированной дезинформации начинается с образования и осведомленности о широких возможностях ИИ, в сочетании с проверенными личностями и аутентичными онлайн-аккаунтами. Чтобы определить, можно ли доверять источнику, необходимо рассмотреть причину, а не симптомы. Мы должны решить проблему в ее источнике, где и кем эти глубокие фейки и фейковые ресурсы генерируются.

Потребители и бизнес должны доверять только информации из проверенных источников, таких как проверенные пользователи социальных сетей и авторитетные новостные издания. Кроме того, использование сайтов проверки фактов и поиск визуальных аномалий в аудио- или видеоклипах – неестественные движения, странное освещение, размытость или несоответствие синхронизации губ – являются лишь некоторыми из способов, которыми бизнес может защитить себя от того, чтобы быть введенным в заблуждение технологией глубоких фейков.

Думаете ли вы, что существует достаточная осведомленность о опасностях глубоких фейков? Если нет, какие шаги следует предпринять для улучшения понимания?

Мы все еще находимся на этапе роста осведомленности об ИИ и обучения людей его потенциалу.

Согласно Veriff Fraud Index 2024: Часть 2, более четверти (28%) респондентов столкнулись с каким-либо видом фейков или мошенничества, сгенерированного ИИ, за последний год, что является поразительным результатом для новой технологии и указывает на растущую природу этой угрозы. Что еще более важно, это число может быть даже выше, поскольку 20% говорят, что они не знают, были ли они нацелены или нет. Учитывая совершенные возможности фейков, сгенерированных ИИ, вероятно, что многие респонденты были нацелены, не зная об этом.

Люди должны быть осторожны, когда сталкиваются с подозрительными электронными письмами или неожиданными телефонными звонками от незнакомых источников. Запросы на конфиденциальную информацию или деньги всегда должны встречаться со скептицизмом, и важно доверять своим инстинктам и искать разъяснения, если что-то кажется неправильным.

Какую роль, по вашему мнению, регулирующие органы играют в борьбе с ИИ-генерируемой дезинформацией, и как они могут сотрудничать с компаниями, такими как Veriff?

Учитывая масштаб, в котором технология глубоких фейков была использована для обмана общественности и усиления усилий по дезинформации, и с учетом того, что выборы в США еще продолжаются, еще неясно, какой будет их влияние на эти выборы и на более широкое общество. Однако регулирующие органы принимают меры для смягчения угроз технологии глубоких фейков.

Много ответственности за смягчение влияния дезинформации лежит на владельцах платформ, которые мы используем чаще всего. Например, ведущие социальные сети должны взять на себя больше ответственности, реализовав надежные меры для обнаружения и предотвращения фейковых атак и защиты пользователей от вредоносной дезинформации.

Как вы видите эволюцию технологии Veriff в ближайшие годы, чтобы оставаться впереди мошенников, особенно в контексте выборов?

В нашем быстро меняющемся цифровом мире будущее интернета зависит от способности онлайн-пользователей доказать, кто они есть, чтобы бизнес и пользователи могли уверенно взаимодействовать друг с другом. В Veriff доверие синонимично верификации. Мы стремимся обеспечить, чтобы цифровые среды создавали чувство безопасности и безопасности для конечного пользователя. Для этого технология должна развиваться, чтобы решать проблемы сегодня, и мы уже видим это с более широким принятием распознавания лиц и биометрии. Данные показывают, что потребители считают распознавание лиц и биометрию наиболее безопасным методом входа в онлайн-сервис.

Взглянув вперед, мы представляем себе продолжение этой тенденции и будущее, где вместо того, чтобы пользователи постоянно вводили и повторно вводили свои учетные данные при выполнении различных задач онлайн, они имеют “одну многоразовую идентичность”, которая представляет их персону во всем интернете.

Чтобы приблизиться к нашей цели, мы недавно обновили свое решение по биометрической аутентификации, чтобы улучшить точность и опыт пользователя, и повысить безопасность для более сильной идентификации. Эти последние достижения в биометрической технологии позволили нашей технологии адаптироваться к индивидуальному поведению пользователя, обеспечивая аутентификацию пользователя, а не только во время одной сессии. Этот прогресс представляет собой продвижение вперед на нашем пути к одной многоразовой цифровой идентичности.

Veriff признана за свою глобальную досягаемость в предотвращении мошенничества. Что отличает технологию Veriff в таком конкурентном пространстве?

Решение Veriff предлагает скорость и удобство, поскольку оно в 30 раз более точное и в 6 раз быстрее, чем конкурирующие предложения. У нас есть самая большая база данных образцов документов, удостоверяющих личность, в отрасли верификации личности/знания клиента (KYC). Мы можем проверить людей против 11 500 государственных документов, удостоверяющих личность, из более 230 стран и территорий, на 48 разных языках. Кроме того, это удобство и снижение трения позволяют организациям конвертировать больше пользователей, смягчить мошенничество и соблюдать нормативные требования. У нас также есть уровень автоматизации 91%, и 95% реальных пользователей проверяются успешно с первой попытки.

Veriff была одной из первых компаний по верификации личности, получивших сертификацию Cyber Essentials. Cyber Essentials – это эффективный государственный стандарт, который защищает от наиболее распространенных кибератак. Получение этой сертификации демонстрирует, что Veriff серьезно относится к кибербезопасности и предпринимает шаги для защиты своих данных и систем. Это достижение является свидетельством непоколебимой приверженности компании кибербезопасности и нашей приверженности защите данных наших клиентов. Недавно мы завершили оценку соответствия ISO/IEC 30107-3 iBeta Level 2 для биометрического обнаружения живости, независимую внешнюю проверку, которая подтверждает, что решение Veriff соответствует высшим стандартам биометрической безопасности.

Благодарим за отличное интервью, читателям, которые хотят узнать больше, следует посетить Veriff.