Каарел Коткас, генеральный директор и основатель Veriff – Интервью

Каарел Коткас является генеральным директором и основателем Veriff и служит стратегическим мыслителем и видением компании. Он ведет команду Veriff в поддержании лидерства над мошенничеством и конкуренцией в быстро меняющейся области онлайн-идентификации. Известный своей энергией и энтузиазмом, Коткас поощряет команду поддерживать честность в цифровом мире. В 2023 году он был признан в EU Forbes 30 Under 30, а в 2020 году он был назван EY Предпринимателем года в Эстонии. Nordic Business Report также включил его в число 25 самых влиятельных молодых предпринимателей в Северной Европе.

Veriff – это глобальная компания по верификации идентификации, которая помогает онлайн-бизнесу сократить мошенничество и соблюдать нормативные требования. Используя ИИ, Veriff автоматически проверяет идентификацию путем анализа различных технологических и поведенческих индикаторов, включая распознавание лиц.

Что вдохновило вас основать Veriff, и какие проблемы вы столкнулись при создании платформы по предотвращению мошенничества на основе ИИ?

Моя мотивация для Veriff возникла после того, как я сталкивался с тем, насколько легко людям онлайн можно было выдавать себя за кого-то другого. Когда я покупал биоразлагаемую веревку на eBay для фермы моей семьи в возрасте 14 лет, я легко обошел ограничения PayPal для лиц старше 18 лет, изменив год рождения в копии моего документа, удостоверяющего личность, с помощью Photoshop.

Я продолжал видеть проблему онлайн-пользователей, которые выдают себя за кого-то другого, чтобы пройти проверку возраста и другие меры безопасности. Именно из-за этих опытов я придумал идею для Veriff.

Что касается проблем, то через год после основания компании мы дали нашей команде выходной. Это был тот же день, когда мы сделали исправление ошибки, которое привело к полному нарушению наших возможностей мониторинга. Мы не заметили, что наша служба сама выключается, пока не наступило субботнее утро. В понедельник утром мне пришлось встретиться с нашим крупнейшим клиентом, который потерял тысячи долларов дохода. Я был прозрачным на этой встрече, объяснив ошибки с нашей стороны. Мы пожали друг другу руки и вернулись к работе. То, что я узнал из этого, заключается в том, что как основатель и бизнес-лидер, мы должны ожидать и готовиться к проблемам. Кроме того, прозрачность является ключом к построению доверия. Наконец, демонстрация истории преодоления проблем может оказаться более ценной, поскольку она показывает, что вы можете успешно решать проблемы и быть устойчивыми.

Учитывая, что глубокие фейки становятся все более совершенными, особенно в политических контекстах, какие, по вашему мнению, являются наиболее значительными рисками, которые они представляют для выборов и демократии?

В этом избирательном сезоне целостность избирательного процесса находится под угрозой. ИИ может анализировать огромные объемы данных, чтобы определить предпочтения избирателей и тенденции, что позволяет кампаниям адаптировать сообщения и нацеливаться на избирателей с сообщениями, которые они больше всего заботятся. Злоумышленники хорошо оснащены для создания ложных нарративов о кандидатах, которые выполняют действия, которых они никогда не делали, или делают заявления, которые они никогда не делали, тем самым нанося ущерб их репутации и вводя избирателей в заблуждение.

На данный момент мы видели глубокие фейки знаменитостей, поддерживающих кандидатов в президенты и фейковый робоколл Байдена. Хотя существует технология, которая может помочь различать контент, сгенерированный ИИ, и настоящий, она не жизнеспособна для широкого внедрения. С учетом высоких ставок и достоверности выборов на кону, что-то должно быть сделано, чтобы сохранить общественное доверие. Будущий рост цифровой экономики и его борьба с цифровым мошенничеством центрируются вокруг проверенных идентификаций и аутентичных и проверенных онлайн-аккаунтов.

Глубокие фейки могут манипулировать не только изображениями, но и голосами. Считаете ли вы, что один из этих методов более опасен, чем другой, когда речь идет об обмане избирателей?

В целом, особенно в контексте выборов в США, оба должны быть рассмотрены как угрозы демократии. Наш последний отчет Veriff Fraud Index 2024: Part 2 показал, что 74% респондентов в США беспокоятся об ИИ и глубоких фейках, влияющих на выборы.

Эволюция ИИ ускорила угрозу безопасности, не только в США, но и во всем мире, в ходе этих выборов. Будь то глубокие фейки-изображения, аудио в робоколлах, пытающихся повлиять на мнение избирателей, или фабрикованные видео кандидатов, они оба вызывают обоснованную обеспокоенность.

Давайте посмотрим на более широкую картину. Когда есть много точек данных, легче оценить “уровень угрозы”. Одно изображение может быть недостаточно, чтобы сказать, является ли оно мошенническим, но видео предоставляет больше подсказок, особенно если оно имеет аудио. Добавление деталей, таких как устройство, используемое для записи, местоположение или кто записал видео, увеличивает уверенность в его аутентичности. Мошенники всегда пытаются ограничить объем информации, поскольку это делает ее легче манипулировать. Я считаю робоколлы более опасными, чем глубокие фейки, поскольку создание фейкового аудио легче, чем генерация высококачественных фейковых видео. Кроме того, использование моделей обработки языка (LLM) позволяет изменять фейковое аудио во время звонков, что делает его еще более убедительным.

Учитывая предстоящие выборы, о чем должны быть наиболее обеспокоены правительства и избирательные комиссии в отношении ИИ-индуцированной дезинформации?

Правительства и избирательные комиссии должны понять потенциальный объем возможностей глубоких фейков, включая то, насколько совершенными и убедительными эти случаи мошенничества стали. Глубокие фейки особенно эффективны, когда они используются против предприятий с несогласованными и несогласованными процессами управления идентификацией и плохой кибербезопасностью, что делает еще более критичным сегодняшний день внедрения надежных мер безопасности или наличие многослойного подхода к безопасности.

Тем не менее, нет универсального решения, поэтому координированный, многофакторный подход является ключом. Это может включать в себя надежные и всесторонние проверки заявленных документов, удостоверяющих личность, противо-ИИ для выявления манипуляций входящих изображений, особенно в отношении дистанционного голосования, и, что наиболее важно, выявление создателей глубоких фейков и фейковых контентов в источнике. Ответственность за проверку голосов лежит на правительствах и избирательных комиссиях, а также на технологических и идентификационных провайдерах.

Какую роль могут сыграть ИИ и технологии верификации идентификации, такие как Veriff, в противодействии влиянию глубоких фейков на выборы и политические кампании?

ИИ является угрозой и возможностью. Почти 78% руководителей США видели увеличение использования ИИ в мошеннических атаках за последний год. С другой стороны, почти 79% руководителей используют ИИ и машинное обучение в предотвращении мошенничества. В то время, когда мошенничество на подъеме, стратегии предотвращения мошенничества должны быть целостными – ни один инструмент не может противостоять такому многогранному угрозе. Тем не менее, ИИ и верификация идентификации могут наделить бизнес и пользователей многослойным стеком, который включает биометрические данные, верификацию идентификации, межсвязь и другие решения, чтобы опережать мошенников.

В Veriff мы используем свою собственную технологию, основанную на ИИ, для построения наших возможностей обнаружения глубоких фейков. Это означает, что наши инструменты улучшаются из-за знаний, которые мы получаем, когда видим глубокий фейк. Использование больших объемов данных и поиск закономерностей, которые появлялись раньше, для определения будущих результатов зависит как от автоматизированных технологий, так и от человеческих знаний и интеллекта. Люди имеют лучшее понимание контекста, выявление аномалий для создания обратной связи, которую можно использовать для улучшения моделей ИИ. Объединение различных прозрений и опыта для создания комплексного подхода к верификации идентификации и обнаружению глубоких фейков позволило Veriff и ее клиентам оставаться впереди кривой.

Как бизнес и отдельные лица могут лучше защитить себя от влияния глубоких фейков и ИИ-индуцированной дезинформации?

Защита от влияния глубоких фейков и ИИ-индуцированной дезинформации начинается с образования и осведомленности о широких возможностях ИИ, в сочетании с проверенными идентификациями и аутентичными, проверенными онлайн-аккаунтами. Чтобы определить, можно ли доверять источнику, необходимо посмотреть на причину, а не на симптомы. Мы должны решить проблему в ее источнике, где и кем эти глубокие фейки и фейковые ресурсы генерируются.

Потребители и бизнес должны доверять только информации из проверенных источников, таких как проверенные пользователи социальных сетей и авторитетные новостные издания. Кроме того, использование сайтов проверки фактов и поиск визуальных аномалий в аудио- или видеоклипах – неестественные движения, странное освещение, размытость или несоответствие синхронизации губ – являются лишь некоторыми из способов, которыми бизнес может защитить себя от того, чтобы быть введенным в заблуждение технологией глубоких фейков.

Считаете ли вы, что существует достаточно общественной осведомленности о опасности глубоких фейков? Если нет, какие шаги следует предпринять, чтобы улучшить понимание?

Мы все еще находимся в фазе роста осведомленности об ИИ и обучения людей о его потенциале.

Согласно Veriff Fraud Index 2024: Part 2 более четверти (28%) респондентов испытали какой-либо вид фейков или фейков, сгенерированных ИИ, за последний год, поразительный результат для новой технологии и указание на растущую природу этой угрозы. Что более важно, это число может быть даже выше, поскольку 20% говорят, что они не знают, были ли они нацелены или нет. Учитывая совершенную природу фейков, сгенерированных ИИ, вероятно, что многие респонденты были нацелены, не зная об этом.

Люди должны быть осторожны, когда сталкиваются с подозрительными электронными письмами или неожиданными телефонными звонками из незнакомых источников. Запросы на конфиденциальную информацию или деньги всегда должны встречаться со скептицизмом, и важно доверять своим инстинктам и искать разъяснения, если что-то кажется неправильным.

Какую роль, по вашему мнению, играют регулирующие органы в борьбе с ИИ-генерируемой дезинформацией, и как они могут сотрудничать с компаниями, такими как Veriff?

Учитывая, насколько широко технология глубоких фейков была использована для обмана общественности и усиления усилий по дезинформации, и с учетом того, что выборы в США еще продолжаются, еще предстоит увидеть, какой великий эффект эта технология окажет на эти выборы, а также на более широкое общество. Тем не менее, регулирующие органы принимают меры для смягчения угроз технологии глубоких фейков.

Много ответственности за смягчение влияния дезинформации лежит на владельцах платформ, которые мы используем чаще всего. Например, ведущие социальные медиа-компании должны взять на себя больше ответственности, принимая меры и реализуя надежные меры для обнаружения и предотвращения фейковых атак и защиты пользователей от вредоносной дезинформации.

Как, по вашему мнению, технология Veriff будет развиваться в ближайшие несколько лет, чтобы оставаться впереди мошенников, особенно в контексте выборов?

В нашем быстро цифровом мире будущее интернета зависит от способности онлайн-пользователей доказать, кто они есть; таким образом, бизнес и пользователи могут уверенно взаимодействовать друг с другом. В Veriff доверие синонимично верификации. Мы стремимся обеспечить, чтобы цифровые среды способствовали чувству безопасности и безопасности для конечного пользователя. Это цель требует, чтобы технология эволюционировала, чтобы решить проблемы сегодня, и мы уже видим это с более широким принятием распознавания лиц и биометрических данных. Данные показывают, что потребители считают распознавание лиц и биометрические данные наиболее безопасным методом входа в онлайн-сервис.

Взглянув вперед, мы представляем себе продолжение этой тенденции и будущее, где вместо того, чтобы пользователи постоянно вводили и повторно вводили свои учетные данные при выполнении различных задач онлайн, они имеют “одну многоразовую идентификацию”, которая представляет их персону во всем интернете.

Чтобы приблизиться к нашей цели, мы недавно обновили свое решение Биометрической Аутентификации, чтобы улучшить точность и опыт пользователя, а также повысить безопасность для более сильной идентификации. Эти последние достижения в биометрической технологии позволили нашей технологии адаптироваться к индивидуальному поведению пользователя, обеспечивая аутентификацию пользователя, а не только во время одной сессии. Это достижение, в частности, представляет прогресс на нашем пути к одной многоразовой цифровой идентификации.

Veriff признана за свою глобальную досягаемость в предотвращении мошенничества. Что отличает технологию Veriff в таком конкурентном пространстве?

Решение Veriff предлагает скорость и удобство, поскольку оно в 30 раз более точное и в 6 раз быстрее, чем конкурирующие предложения. У нас есть самая большая база данных образцов документов, удостоверяющих личность, в отрасли IDV / KYC. Мы можем проверить людей по 11 500 государственным документам, удостоверяющим личность, из более 230 стран и территорий, на 48 различных языках. Кроме того, это удобство и снижение трения позволяют организациям конвертировать больше пользователей, смягчить мошенничество и соблюдать нормативные требования. У нас также есть уровень автоматизации 91%, и 95% реальных пользователей успешно верифицируются при первом попытке.

Veriff была одной из первых компаний IDV, получивших сертификацию Cyber Essentials. Cyber Essentials – это эффективный государственный стандарт, который защищает от наиболее распространенных кибератак. Получение этой сертификации демонстрирует, что Veriff серьезно относится к кибербезопасности и предприняла шаги для защиты своих данных и систем. Это достижение является свидетельством непоколебимой приверженности компании кибербезопасности и нашей преданности защите данных наших клиентов. Недавно мы завершили оценку соответствия ISO / IEC 30107-3 iBeta Level 2 для биометрического пассивного обнаружения живости, независимую внешнюю проверку, чтобы подтвердить, что решение Veriff соответствует высшему стандарту биометрической безопасности.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Veriff.