Jonathan Dambrot, CEO e Co-Fundador da Cranium AI – Série de Entrevistas

Jonathan Dambrot é o CEO e Co-Fundador da Cranium AI, uma empresa que ajuda equipes de segurança cibernética e ciência de dados a entenderem onde a inteligência artificial está impactando seus sistemas, dados ou serviços.

Jonathan é um ex-sócio da KPMG, líder da indústria de segurança cibernética e visionário. Antes de ingressar na KPMG, ele liderou a Prevalent, tornando-a uma líder da indústria em gestão de riscos de terceiros, de acordo com a Gartner e a Forrester, antes de sua venda para a Insight Venture Partners no final de 2016. Em 2019, Jonathan transferiu o cargo de CEO da Prevalent, enquanto a empresa buscava continuar seu crescimento sob uma nova liderança. Ele foi citado em várias publicações e costuma falar para grupos de clientes sobre tendências em TI, segurança da informação e conformidade.

Poderia compartilhar a história por trás da criação da Cranium AI?

Tive a ideia da Cranium por volta de junho de 2021, quando era sócio da KPMG, liderando os serviços de segurança de terceiros globalmente. Estávamos construindo e entregando soluções impulsionadas por inteligência artificial para alguns de nossos maiores clientes, e percebi que não estávamos fazendo nada para protegê-los contra ameaças adversárias. Então, fiz a mesma pergunta aos líderes de segurança cibernética de nossos maiores clientes, e as respostas que obtive foram igualmente terríveis. Muitas das equipes de segurança nunca haviam sequer conversado com os cientistas de dados – eles falavam línguas completamente diferentes quando se tratava de tecnologia e, no final, tinham zero visibilidade sobre a inteligência artificial em execução em toda a empresa. Tudo isso, combinado com o desenvolvimento constante de regulamentações, foi o gatilho para construir uma plataforma que pudesse fornecer segurança para a inteligência artificial. Começamos a trabalhar com o incubador KPMG Studio e trouxemos alguns de nossos maiores clientes como parceiros de design para orientar o desenvolvimento para atender às necessidades dessas grandes empresas. Em janeiro deste ano, a Syn Ventures entrou para completar o financiamento de sementes, e nos separamos independentemente da KPMG em março e saímos da stealth em abril de 2023.

O que é o Cranium AI Card e quais são as principais informações que ele revela?

O Cranium AI Card permite que as organizações colem e compartilhem informações sobre a confiabilidade e conformidade de seus modelos de inteligência artificial com clientes e reguladores e obtenham visibilidade sobre a segurança dos sistemas de inteligência artificial de seus fornecedores. Em última análise, buscamos fornecer às equipes de segurança e conformidade a capacidade de visualizar e monitorar a segurança da inteligência artificial em sua cadeia de suprimentos, alinhar seus próprios sistemas de inteligência artificial com os requisitos de conformidade atuais e futuros e facilmente compartilhar que seus sistemas de inteligência artificial são seguros e confiáveis.

Quais são alguns dos problemas de confiança que as pessoas têm com a inteligência artificial que estão sendo resolvidos com essa solução?

As pessoas geralmente querem saber o que está por trás da inteligência artificial que estão usando, especialmente à medida que mais e mais de seus fluxos de trabalho diários são afetados de alguma forma pela inteligência artificial. Buscamos fornecer a nossos clientes a capacidade de responder a perguntas que logo receberão de seus próprios clientes, como “Como isso está sendo governado?”, “O que está sendo feito para proteger os dados e modelos?” e “Essa informação foi validada?”. O Cranium AI Card dá às organizações uma maneira rápida de abordar essas perguntas e demonstrar a transparência e confiabilidade de seus sistemas de inteligência artificial.

Em outubro de 2022, a Casa Branca publicou um Projeto de Lei de Direitos da Inteligência Artificial, que compartilhou uma estrada não vinculante para o uso responsável da inteligência artificial. Pode discutir suas opiniões pessoais sobre os prós e contras desse projeto de lei?

Embora seja incrivelmente importante que a Casa Branca tenha dado esse primeiro passo para definir os princípios orientadores para a inteligência artificial responsável, não acreditamos que tenha ido longe o suficiente para fornecer orientação para as organizações e não apenas para indivíduos preocupados com a apelação de uma decisão baseada em inteligência artificial. A orientação regulatória futura não deve ser apenas para os provedores de sistemas de inteligência artificial, mas também para os usuários, para que possam entender e aproveitar essa tecnologia de maneira segura e segura. Em última análise, o grande benefício é que os sistemas de inteligência artificial serão mais seguros, inclusivos e transparentes. No entanto, sem um quadro de risco baseado para as organizações se prepararem para a regulação futura, há o potencial de desacelerar o ritmo da inovação, especialmente em circunstâncias em que atender aos requisitos de transparência e explicabilidade é tecnicamente inviável.

Como a Cranium AI ajuda as empresas a cumprir com esse Projeto de Lei de Direitos da Inteligência Artificial?

A Cranium Enterprise ajuda as empresas a desenvolver e entregar sistemas seguros e seguros, que é o primeiro princípio fundamental dentro do Projeto de Lei de Direitos da Inteligência Artificial. Além disso, o Cranium AI Card ajuda as organizações a cumprir com o princípio de notificação e explicação, permitindo que elas compartilhem detalhes sobre como seus sistemas de inteligência artificial estão funcionando e quais dados estão usando.

O que é o Quadro de Gestão de Riscos de Inteligência Artificial da NIST e como a Cranium AI ajudará as empresas a cumprir com suas obrigações de conformidade para esse quadro?

O Quadro de Gestão de Riscos de Inteligência Artificial da NIST é um quadro para as organizações melhorarem a gestão de riscos para indivíduos, organizações e sociedade associados à inteligência artificial. Ele segue uma estrutura muito semelhante à de outros quadros da NIST, delineando os resultados de um programa de gestão de riscos bem-sucedido para a inteligência artificial. Mapeamos nosso Cranium AI Card para os objetivos delineados no quadro para apoiar as organizações no acompanhamento de como seus sistemas de inteligência artificial se alinham com o quadro e, dado que nossa plataforma de empresa já coleta muitas dessas informações, podemos preencher e validar automaticamente alguns dos campos.

A Lei de Inteligência Artificial da UE é uma das legislações de inteligência artificial mais monumentais que vimos na história recente. Por que as empresas não pertencentes à UE devem cumprir com ela?

Similar à GDPR para a privacidade de dados, a Lei de Inteligência Artificial da UE mudará fundamentalmente a maneira como as empresas globais desenvolvem e operam seus sistemas de inteligência artificial. As organizações baseadas fora da UE ainda precisarão prestar atenção e cumprir com os requisitos, pois qualquer sistema de inteligência artificial que use ou afete cidadãos europeus estará sujeito aos requisitos, independentemente da jurisdição da empresa.

Como a Cranium AI está se preparando para a Lei de Inteligência Artificial da UE?

Na Cranium, estamos acompanhando o desenvolvimento da Lei de Inteligência Artificial da UE desde o início e adaptamos o design de nosso produto Cranium AI Card para apoiar as empresas a cumprir com os requisitos de conformidade. Sentimos que temos um grande avanço, dado nosso conhecimento precoce da Lei de Inteligência Artificial da UE e como ela evoluiu ao longo dos anos.

Por que a inteligência artificial responsável deve se tornar uma prioridade para as empresas?

A velocidade com que a inteligência artificial está sendo incorporada a cada processo e função de negócios significa que as coisas podem sair do controle rapidamente se não forem feitas de maneira responsável. Priorizar a inteligência artificial responsável agora, no início da revolução da inteligência artificial, permitirá que as empresas escalonem de forma mais eficaz e não encontrem grandes obstáculos e problemas de conformidade mais tarde.

Qual é sua visão para o futuro da Cranium AI?

Vemos a Cranium se tornando a verdadeira líder de categoria em inteligência artificial segura e confiável. Embora não possamos resolver tudo, como desafios complexos como uso ético e explicabilidade, buscamos parcear com líderes em outras áreas de inteligência artificial responsável para impulsionar um ecossistema que torna simples para nossos clientes cobrir todas as áreas de inteligência artificial responsável. Também buscamos trabalhar com os desenvolvedores de soluções inovadoras de inteligência artificial gerativa para apoiar a segurança e confiabilidade dessas capacidades. Queremos que a Cranium permita que as empresas em todo o mundo continuem inovando de maneira segura e confiável.

Obrigado pela grande entrevista. Os leitores que desejam aprender mais devem visitar Cranium AI.