Kaarel Kotkas, CEO e Fundador da Veriff – Série de Entrevistas

Kaarel Kotkas é o CEO e Fundador da Veriff e atua como o pensador estratégico e visionário por trás da empresa. Ele lidera a equipe da Veriff em manter-se à frente da fraude e da concorrência no campo em rápida mudança da identificação online. Conhecido por sua energia e entusiasmo, Kotkas encoraja a equipe a manter a integridade no mundo digital. Em 2023, ele foi reconhecido na EU Forbes 30 Under 30, e em 2020, ele foi nomeado o Empreendedor do Ano da EY na Estônia. O Nordic Business Report também o incluiu entre os 25 jovens empreendedores mais influentes da Europa do Norte.

Veriff é uma empresa global de verificação de identidade que ajuda os negócios online a reduzir a fraude e cumprir com as regulamentações. Usando IA, a Veriff verifica automaticamente as identidades analisando vários indicadores tecnológicos e comportamentais, incluindo reconhecimento facial.

O que o inspirou a fundar a Veriff, e quais desafios você enfrentou ao construir uma plataforma de prevenção de fraude com IA?

Minha motivação para a Veriff veio após testemunhar pessoalmente como era fácil para as pessoas online se passarem por outra pessoa. Quando comprei corda biodegradável no eBay para a fazenda da minha família aos 14 anos, eu facilmente contornei as restrições de idade de 18+ do PayPal com um toque de Photoshop para alterar o meu ano de nascimento na cópia do meu documento de identidade.

Continuei a ver o problema de usuários online se passando por outra pessoa para passar nos controles de idade e outras medidas de segurança. Foi devido a essas experiências que eu tive a ideia para a Veriff.

Quanto aos desafios, um ano após fundar a empresa, demos ao nosso time o fim de semana de folga. Esse foi o mesmo dia em que fizemos uma correção de bug, que resultou em uma interrupção completa em nossas capacidades de monitoramento. Nós não notamos que nosso serviço estava se desligando até a manhã de sábado. Na segunda-feira de manhã, eu tive que me encontrar pessoalmente com nosso maior cliente, que havia perdido milhares de dólares em receita. Eu fui transparente nessa reunião, explicando os erros de nossa parte. Nós apertamos as mãos e voltamos ao trabalho. O que eu aprendi com isso é que, como fundador e líder de negócios, devemos esperar e nos preparar para desafios. Além disso, a transparência é fundamental para construir confiança. Por fim, demonstrar uma história de superação de desafios pode ser mais valioso, pois mostra que você pode lidar com sucesso com problemas e é resiliente.

Com deepfakes se tornando mais sofisticados, especialmente em contextos políticos, quais você acredita que sejam os principais riscos que eles representam para as eleições e a democracia?

Nesta temporada de eleições, a integridade do processo de votação está em perigo. A IA pode analisar vastas quantidades de dados para identificar preferências e tendências de votantes, permitindo que as campanhas adaptem suas mensagens e visem os votantes com mensagens que mais lhes importam. Atores mal-intencionados estão bem equipados para criar narrativas falsas de candidatos realizando ações que nunca fizeram ou fazendo declarações que nunca disseram, assim danificando suas reputações e enganando os votantes.

Até o momento, vimos deepfakes de celebridades endossando candidatos presidenciais e uma ligação robocall falsa de Biden. Embora exista tecnologia para ajudar a distinguir entre conteúdo gerado por IA e o real, não é viável implementá-la em larga escala. Com os altos riscos e a credibilidade das eleições em jogo, algo deve ser feito para preservar a confiança pública. O crescimento futuro da economia digital e sua luta contra a fraude digital giram em torno de identidades comprovadas e contas online autênticas e verificadas.

Deepfakes podem manipular não apenas imagens, mas também vozes. Você acredita que um meio é mais perigoso do que o outro quando se trata de enganar os votantes?

Em geral, especialmente no contexto das eleições nos EUA, ambos devem ser tratados como ameaças à democracia. Nosso relatório mais recente Veriff Fraud Index 2024: Part 2 encontrou que 74% dos respondentes nos EUA estão preocupados com a IA e os deepfakes impactando as eleições.

A evolução da IA acelerou a ameaça à segurança, não apenas nos EUA, mas em todo o mundo, durante as eleições deste ano. Seja por meio de imagens deepfake, vozes geradas por IA em ligações robocall tentando influenciar opiniões de votantes, ou vídeos fabricados de candidatos, ambos provocam preocupações justificadas.

Vamos olhar para o quadro maior aqui. Quando há muitos pontos de dados disponíveis, é mais fácil avaliar o “nível de ameaça”. Uma imagem isolada pode não ser suficiente para determinar se é fraudulenta, mas um vídeo fornece mais pistas, especialmente se tiver áudio. Adicionar detalhes como o dispositivo usado, localização ou quem gravou o vídeo aumenta a confiança em sua autenticidade. Os fraudadores sempre tentam limitar o escopo de informações, pois isso facilita a manipulação. Eu vejo as ligações robocall como mais perigosas do que os deepfakes, pois criar áudio falso é mais fácil do que gerar vídeos falsos de alta qualidade. Além disso, usar LLMs torna possível ajustar o áudio falso durante as ligações, tornando-o ainda mais convincente.

Dada a proximidade das eleições, sobre o que os governos e comissões eleitorais devem estar mais preocupados em relação à desinformação impulsionada por IA?

Os governos e comissões eleitorais precisam entender o potencial alcance das capacidades de deepfakes, incluindo quão sofisticadas e convincentes essas instâncias de fraude se tornaram. Deepfakes são especialmente eficazes quando implantados contra empresas com processos de gerenciamento de identidade desconexos e inconsistentes e cibersegurança pobre, tornando mais crítico hoje implementar medidas de segurança robustas ou ter uma abordagem em camadas para a segurança.

Ainda, não há uma solução de tamanho único, então uma abordagem coordenada e multifacetada é fundamental. Isso pode incluir verificações robustas e abrangentes de documentos de identidade alegados, contra-IA para identificar manipulação de imagens de entrada, especialmente em relação ao voto remoto, e, mais importante, identificar os criadores de deepfakes e conteúdo fraudulento na fonte. A responsabilidade de verificar os votos recai sobre os governos e comissões eleitorais, bem como sobre os provedores de tecnologia e identidade.

Qual papel a IA e as tecnologias de verificação de identidade, como a Veriff, podem desempenhar na mitigação do impacto dos deepfakes nas eleições e campanhas políticas?

A IA é uma ameaça e uma oportunidade. Quase 78% dos tomadores de decisão nos EUA viram um aumento no uso de IA em ataques fraudulentos nos últimos 12 meses. Por outro lado, quase 79% dos CEOs usam IA e ML na prevenção de fraude. Em um momento em que a fraude está em alta, as estratégias de prevenção de fraude devem ser holísticas – nenhuma ferramenta única pode combater tal ameaça multitudinária. No entanto, a IA e a verificação de identidade podem capacitar os negócios e os usuários com uma pilha multilayer que inclui biometria, verificação de identidade, crosslinking e outras soluções para ficar à frente dos fraudadores.

Na Veriff, usamos nossa própria tecnologia com IA para construir nossas capacidades de detecção de deepfakes. Isso significa que nossas ferramentas melhoram com os aprendizados quando vemos um deepfake. Pegar grandes quantidades de dados e procurar padrões que apareceram antes para determinar resultados futuros depende tanto de tecnologias automatizadas quanto de conhecimento e inteligência humanos. Os humanos têm uma melhor compreensão do contexto, identificando anomalias para criar um loop de feedback que pode ser usado para aprimorar os modelos de IA. Combinar diferentes insights e especializações para criar uma abordagem abrangente para verificação de identidade e detecção de deepfakes permitiu que a Veriff e seus clientes ficassem à frente da curva.

Como os negócios e os indivíduos podem se proteger melhor contra a influência de deepfakes e desinformação impulsionada por IA?

Proteger-se contra a influência de deepfakes e desinformação impulsionada por IA começa com a educação e a conscientização sobre as capacidades abrangentes da IA, combinadas com identidades comprovadas e contas online autênticas e verificadas. Para determinar se você pode confiar em uma fonte, você deve olhar para a causa em vez dos sintomas. Devemos enfrentar o problema na sua fonte, onde e por quem esses deepfakes e recursos fraudulentos estão sendo gerados.

Os consumidores e os negócios devem confiar apenas em informações de fontes verificadas, como usuários de plataformas de mídia social verificados e veículos de notícias bem credenciados. Além disso, usar sites de verificação de fatos e procurar por anomalias visuais em áudio ou vídeo — movimentos não naturais, iluminação estranha, borrão ou sincronismo de lábios descompassado — são apenas algumas das maneiras pelas quais os negócios podem se proteger contra a desinformação da tecnologia de deepfake.

Você acredita que há conscientização pública suficiente sobre os perigos dos deepfakes? Se não, quais passos devem ser tomados para melhorar a compreensão?

Ainda estamos na fase de crescimento da conscientização sobre a IA e educando as pessoas sobre seu potencial.

De acordo com o Veriff Fraud Index 2024: Part 2, mais de um quarto (28%) dos respondentes experimentaram algum tipo de fraude gerada por IA ou deepfake nos últimos 12 meses, um resultado impressionante para uma tecnologia emergente e um indicativo da natureza em crescimento dessa ameaça. O que é mais importante é que esse número poderia ser ainda maior, pois 20% dizem que não sabem se foram alvo ou não. Dada a natureza sofisticada dos ataques fraudulentos gerados por IA, é provável que muitos respondentes tenham sido alvo sem saber.

Os indivíduos devem ser cautelosos ao encontrar e-mails suspeitos ou ligações telefônicas inesperadas de fontes desconhecidas. Solicitações de informações sensíveis ou dinheiro devem sempre ser recebidas com ceticismo, e é crucial confiar nos seus instintos e buscar esclarecimento se algo parecer errado.

Qual papel você vê os órgãos reguladores desempenhando na luta contra a desinformação gerada por IA, e como eles podem colaborar com empresas como a Veriff?

Dada a extensão com que a tecnologia de deepfake foi usada para enganar o público e amplificar esforços de desinformação, e com as eleições nos EUA ainda em andamento, ainda é para ser visto o impacto que essa tecnologia terá nas eleições e na sociedade em geral. No entanto, os órgãos reguladores estão tomando medidas para mitigar as ameaças da tecnologia de deepfake.

Uma grande responsabilidade por mitigar o impacto da desinformação recai sobre os proprietários das plataformas que usamos com mais frequência. Por exemplo, as principais empresas de mídia social devem assumir mais responsabilidade, tomando ação e implementando medidas robustas para detectar e prevenir ataques fraudulentos e proteger os usuários contra informações prejudiciais.

Como você vê a tecnologia da Veriff evoluindo nos próximos anos para ficar à frente dos fraudadores, especialmente no contexto das eleições?

Em nosso mundo digital em rápida evolução, o futuro da internet depende da capacidade dos usuários online de provar quem são; assim, os negócios e os usuários podem interagir com confiança. Na Veriff, confiança é sinônimo de verificação. Nossa meta é garantir que os ambientes digitais fomentem um senso de segurança e segurança para o usuário final. Isso exigirá que a tecnologia evolua para enfrentar os desafios de hoje, e já estamos vendo isso com a aceitação mais ampla do reconhecimento facial e da biometria. Os dados mostram que os consumidores veem o reconhecimento facial e a biometria como o método mais seguro de login em um serviço online.

Olhando para o futuro, visualizamos essa tendência continuar e um futuro em que, em vez de os usuários constantemente entrarem e reentrarem suas credenciais à medida que realizam diferentes tarefas online, eles têm uma “identidade reutilizável” que representa sua persona na web.

Para nos aproximar de nossa meta, recentemente atualizamos nossa solução de Autenticação Biométrica para melhorar a precisão e a experiência do usuário, e para fortalecer a segurança para uma garantia de identidade mais forte. Esses últimos avanços na tecnologia biométrica permitiram que nossa tecnologia se adaptasse aos comportamentos individuais do usuário, garantindo a autenticação do usuário, e não apenas durante uma sessão. Esse avanço, em particular, representa progresso em nossa jornada para uma identidade digital reutilizável.

A Veriff é reconhecida por seu alcance global na prevenção de fraude. O que torna a tecnologia da Veriff destacar-se em um espaço tão competitivo?

A solução da Veriff oferece velocidade e conveniência, pois é 30 vezes mais precisa e 6 vezes mais rápida do que as ofertas concorrentes. Temos o maior banco de dados de espécimes de documentos de identidade da indústria de IDV/Conheça Seu Cliente (KYC). Podemos verificar pessoas contra 11.500 documentos de identidade emitidos pelo governo de mais de 230 países e territórios, em 48 idiomas diferentes. Além disso, essa conveniência e redução de atrito permitem que as organizações convertam mais usuários, mitiguem a fraude e cumpram as regulamentações. Também temos uma taxa de automação de 91% e 95% dos usuários legítimos são verificados com sucesso na primeira tentativa.

A Veriff foi uma das primeiras empresas de IDV a obter a certificação Cyber Essentials. Cyber Essentials é um padrão eficaz apoiado pelo governo que protege contra os ataques cibernéticos mais comuns. Obter essa certificação demonstra que a Veriff leva a cibersegurança a sério e tomou medidas para proteger seus dados e sistemas. Esse feito é um testemunho do compromisso inabalável da empresa com a cibersegurança e nossa dedicação à proteção dos dados de nossos clientes. Mais recentemente, concluímos a avaliação de conformidade ISO/IEC 30107-3 iBeta Level 2 para detecção de vivacidade passiva biométrica, uma validação externa independente para solidificar que a solução da Veriff atende ao padrão mais alto de segurança biométrica.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Veriff.