Kaarel Kotkas, CEO e Fundador da Veriff – Série de Entrevistas

Kaarel Kotkas é o CEO e Fundador da Veriff e atua como pensador estratégico e visionário por trás da empresa. Ele lidera a equipe da Veriff para manter-se à frente da fraude e da concorrência no campo de identificação online em rápida mudança. Conhecido por sua energia e entusiasmo, Kotkas incentiva a equipe a manter a integridade no mundo digital. Em 2023, ele foi reconhecido na EU Forbes 30 Under 30, e em 2020, foi nomeado o Empreendedor do Ano da EY na Estônia. O Nordic Business Report também o incluiu entre os 25 jovens empreendedores mais influentes da Europa do Norte.

Veriff é uma empresa global de verificação de identidade que ajuda os negócios online a reduzir a fraude e cumprir com as regulamentações. Usando IA, a Veriff verifica automaticamente as identidades analisando vários indicadores tecnológicos e comportamentais, incluindo reconhecimento facial.

O que o inspirou a fundar a Veriff, e quais desafios você enfrentou ao construir uma plataforma de prevenção de fraude impulsionada por IA?

Minha motivação para a Veriff veio após testemunhar pessoalmente como era fácil para as pessoas online se passarem por outra pessoa. Quando comprei corda biodegradável no eBay para a fazenda da minha família aos 14 anos, eu facilmente contornei as restrições de idade do PayPal (PYPL ) com um toque de Photoshop para alterar o ano de nascimento na cópia do meu documento de identidade.

Continuei a ver o problema de usuários online se passando por outra pessoa para passar nas verificações de idade e outras medidas de segurança. Foi devido a essas experiências que eu tive a ideia para a Veriff.

Quanto aos desafios, um ano após fundar a empresa, demos ao nosso time o fim de semana de folga. Foi o mesmo dia em que fizemos uma correção de bug, que resultou em uma interrupção completa em nossas capacidades de monitoramento. Nós não notamos que nosso serviço estava se desligando até a manhã de sábado. Na segunda-feira de manhã, eu tive que me encontrar pessoalmente com nosso maior cliente, que havia perdido milhares de dólares em receita. Eu fui transparente naquela reunião, explicando os erros de nossa parte. Nós apertamos as mãos e voltamos ao trabalho. O que eu aprendi com isso é que, como fundador e líder de negócios, devemos esperar e nos preparar para desafios. Além disso, a transparência é fundamental para construir confiança. Por fim, demonstrar uma história de superação de desafios pode ser mais valioso, pois mostra que você pode lidar com problemas e é resiliente.

Com as deepfakes se tornando mais sofisticadas, especialmente em contextos políticos, quais você acredita que são os principais riscos que elas representam para as eleições e a democracia?

Nesta temporada de eleições, a integridade do processo de votação está em risco. A IA pode analisar vastas quantidades de dados para identificar preferências e tendências de votantes, permitindo que as campanhas personalizem mensagens e direcionem votantes com mensagens que mais lhes importam. Atores mal-intencionados estão bem equipados para criar narrativas falsas de candidatos realizando ações que nunca fizeram ou fazendo declarações que nunca fizeram, danificando assim suas reputações e enganando os eleitores.

Até o momento, vimos deepfakes de celebridades endossando candidatos presidenciais e uma ligação robocall falsa de Biden. Embora exista tecnologia para ajudar a distinguir entre conteúdo gerado por IA e o real, não é viável implementá-la em larga escala. Com os altos riscos e a credibilidade das eleições em jogo, algo deve ser feito para preservar a confiança pública. O crescimento futuro da economia digital e sua luta contra a fraude digital gira em torno de identidades comprovadas e contas online autênticas.

As deepfakes podem manipular não apenas imagens, mas também vozes. Você acredita que um meio é mais perigoso do que o outro quando se trata de enganar os eleitores?

Em geral, especialmente no contexto das eleições nos EUA, ambos devem ser tratados como ameaças à democracia. Nosso relatório mais recente Veriff Fraud Index 2024: Parte 2 encontrou que 74% dos respondentes nos EUA estão preocupados com o impacto da IA e das deepfakes nas eleições.

A evolução da IA acelerou a ameaça à segurança, não apenas nos EUA, mas em todo o mundo, durante as eleições deste ano. Seja por meio de imagens deepfakes, vozes geradas por IA em ligações robocall tentando influenciar opiniões de votantes, ou vídeos fabricados de candidatos, ambos provocam uma preocupação justificada.

Vamos olhar para o quadro maior aqui. Quando há muitos pontos de dados disponíveis, é mais fácil avaliar o “nível de ameaça”. Uma única imagem pode não ser suficiente para determinar se é fraudulenta, mas um vídeo fornece mais pistas, especialmente se tiver áudio. Adicionar detalhes como o dispositivo usado, localização ou quem gravou o vídeo aumenta a confiança em sua autenticidade. Os fraudadores sempre tentam limitar o escopo de informações, pois isso facilita a manipulação. Eu vejo as ligações robocall como mais perigosas do que as deepfakes, pois criar áudio falso é mais fácil do que gerar vídeos falsos de alta qualidade. Além disso, usar LLMs torna possível ajustar o áudio falso durante as ligações, tornando-o ainda mais convincente.

Dada a eleição que se aproxima, o que os governos e comissões eleitorais devem estar mais preocupados em relação à desinformação impulsionada por IA?

Os governos e comissões eleitorais precisam entender o potencial alcance das capacidades das deepfakes, incluindo quão sofisticadas e convincentes essas instâncias de fraude se tornaram. As deepfakes são especialmente eficazes quando implantadas contra empresas com processos de gerenciamento de identidade desconexos e inconsistentes e cibersegurança fraca, tornando mais crítico implementar medidas de segurança robustas ou ter uma abordagem em camadas para a segurança.

Ainda, não há uma solução única para todos, então uma abordagem coordenada e multifacetada é fundamental. Isso pode incluir verificações robustas e abrangentes de documentos de identidade declarados, contramedidas de IA para identificar manipulação de imagens recebidas, especialmente em relação ao voto remoto, e, mais importante, identificar os criadores de deepfakes e conteúdo fraudulento na fonte. A responsabilidade de verificar os votos recai sobre os governos e comissões eleitorais, bem como sobre os provedores de tecnologia e identidade.

Qual papel a IA e as tecnologias de verificação de identidade, como a Veriff, podem desempenhar para combater o impacto das deepfakes nas eleições e campanhas políticas?

A IA é uma ameaça e uma oportunidade. Quase 78% dos tomadores de decisão nos EUA viram um aumento no uso de IA em ataques fraudulentos ao longo do último ano. Por outro lado, quase 79% dos CEOs usam IA e ML na prevenção de fraude. Em um momento em que a fraude está em alta, as estratégias de prevenção de fraude devem ser holísticas – nenhuma ferramenta única pode combater tal ameaça multitudinária. No entanto, a IA e a verificação de identidade podem empoderar os negócios e os usuários com uma pilha multilayer que traz biometria, verificação de identidade, crosslinking e outras soluções para ficar à frente dos fraudadores.

Na Veriff, usamos nossa própria tecnologia impulsionada por IA para construir nossas capacidades de detecção de deepfakes. Isso significa que nossas ferramentas melhoram com os aprendizados quando vemos uma deepfake. Pegar grandes quantidades de dados e procurar padrões que apareceram antes para determinar resultados futuros depende tanto de tecnologias automatizadas quanto de conhecimento e inteligência humanos. Os humanos têm uma melhor compreensão do contexto, identificando anomalias para criar um loop de feedback que pode ser usado para aprimorar os modelos de IA. Combinar diferentes insights e expertise para criar uma abordagem abrangente para verificação de identidade e detecção de deepfakes permitiu que a Veriff e seus clientes ficassem à frente da curva.

Como os negócios e os indivíduos podem se proteger melhor contra a influência das deepfakes e da desinformação impulsionada por IA?

Proteger-se contra a influência das deepfakes e da desinformação impulsionada por IA começa com a educação e a conscientização sobre as capacidades abrangentes da IA, combinadas com identidades comprovadas e contas online autênticas. Para determinar se você pode confiar em uma fonte, é necessário olhar para a causa e não para os sintomas. Devemos confrontar o problema na fonte, onde e por quem essas deepfakes e recursos fraudulentos estão sendo gerados.

Os consumidores e os negócios devem confiar apenas em informações de fontes verificadas, como usuários de plataformas de mídia social verificados e veículos de notícias bem credenciados. Além disso, usar sites de verificação de fatos e procurar por anomalias visuais em áudio ou vídeo – movimentos não naturais, iluminação estranha, borramento ou sincronização de lábios descompassada – são apenas algumas das maneiras pelas quais os negócios podem se proteger contra serem enganados pela tecnologia de deepfakes.

Você acredita que há consciência pública suficiente sobre os perigos das deepfakes? Se não, quais passos devem ser tomados para melhorar a compreensão?

Ainda estamos na fase de crescimento da conscientização sobre a IA e educando as pessoas sobre seu potencial.

De acordo com o Veriff Fraud Index 2024: Parte 2, mais de um quarto (28%) dos respondentes experimentaram algum tipo de fraude gerada por IA ou deepfakes ao longo do último ano, um resultado impressionante para uma tecnologia emergente e um indicador do crescimento dessa ameaça. O que é mais importante é que esse número pode ser ainda maior, pois 20% dizem não saber se foram alvo ou não. Dada a natureza sofisticada dos ataques de fraude gerados por IA, é provável que muitos respondentes tenham sido alvo sem saber.

Os indivíduos devem ser cautelosos ao encontrar e-mails ou ligações telefônicas suspeitos de fontes desconhecidas. Pedidos de informações sensíveis ou dinheiro devem sempre ser recebidos com ceticismo, e é crucial confiar nos seus instintos e buscar esclarecimentos se algo parecer errado.

Qual papel você vê as autoridades reguladoras desempenhando na luta contra a desinformação gerada por IA, e como elas podem colaborar com empresas como a Veriff?

Considerando a extensão com que a tecnologia de deepfakes foi usada para enganar o público e amplificar esforços de desinformação, e com as eleições nos EUA ainda em andamento, ainda é cedo para dizer qual será o impacto dessa tecnologia nas eleições e na sociedade em geral. No entanto, as autoridades reguladoras estão tomando medidas para mitigar as ameaças da tecnologia de deepfakes.

Muita responsabilidade pela mitigação do impacto da desinformação recai sobre os proprietários das plataformas que usamos com mais frequência. Por exemplo, as principais empresas de mídia social devem assumir mais responsabilidade, tomando ação e implementando medidas robustas para detectar e prevenir ataques fraudulentos e proteger os usuários contra informações prejudiciais.

Como você vê a tecnologia da Veriff evoluindo nos próximos anos para ficar à frente dos fraudadores, especialmente no contexto das eleições?

No nosso mundo digital em rápida evolução, o futuro da internet depende da capacidade dos usuários online de provar quem são; assim, os negócios e os usuários podem interagir com confiança. Na Veriff, a confiança é sinônimo de verificação. Nossa meta é garantir que os ambientes digitais promovam um senso de segurança e segurança para o usuário final. Isso exigirá que a tecnologia evolua para enfrentar os desafios de hoje, e já estamos vendo isso com a aceitação mais ampla do reconhecimento facial e da biometria. Os dados mostram que os consumidores veem o reconhecimento facial e a biometria como o método mais seguro de login em um serviço online.

Olhando para o futuro, vislumbramos essa tendência continuando e um futuro onde, em vez de os usuários terem que entrar e reentrar constantemente suas credenciais à medida que realizam diferentes tarefas online, eles terão uma “identidade reutilizável” que represente sua persona na web.

Para nos aproximar de nossa meta, atualizamos recentemente nossa solução de Autenticação Biométrica para melhorar a precisão e a experiência do usuário, e para fortalecer a segurança para uma garantia de identidade mais forte. Esses últimos avanços na tecnologia biométrica permitiram que nossa tecnologia se adaptasse aos comportamentos individuais dos usuários, garantindo a autenticação do usuário e não apenas durante uma sessão. Esse avanço, em particular, representa um progresso significativo em nossa jornada em direção a uma identidade digital reutilizável.

A Veriff é reconhecida por seu alcance global na prevenção de fraude. O que torna a tecnologia da Veriff destacar-se em um espaço tão competitivo?

A solução da Veriff oferece velocidade e conveniência, pois é 30 vezes mais precisa e 6 vezes mais rápida do que as ofertas concorrentes. Temos o maior banco de dados de espécimes de documentos de identidade na indústria de Verificação de Identidade (IDV) / Conheça seu Cliente (KYC). Podemos verificar pessoas contra 11.500 documentos de identidade emitidos pelo governo de mais de 230 países e territórios, em 48 idiomas diferentes. Além disso, essa conveniência e redução da fricção permitem que as organizações convertam mais usuários, mitiguem a fraude e cumpram com as regulamentações. Também temos uma taxa de automação de 91% e 95% dos usuários legítimos são verificados com sucesso na primeira tentativa.

A Veriff foi uma das primeiras empresas de IDV a obter a certificação Cyber Essentials. Cyber Essentials é um padrão eficaz apoiado pelo governo que protege contra os ataques cibernéticos mais comuns. Obter essa certificação demonstra que a Veriff leva a cibersegurança a sério e tomou medidas para proteger seus dados e sistemas. Esse feito é um testemunho do compromisso inabalável da empresa com a cibersegurança e nossa dedicação à proteção dos dados de nossos clientes. Mais recentemente, concluímos a avaliação de conformidade ISO/IEC 30107-3 iBeta Level 2 para detecção de liveness biométrica passiva, uma validação externa independente para solidificar que a solução da Veriff atende ao mais alto padrão de segurança biométrica.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Veriff.