O CEO do Google pede mais regulação para evitar “consequências negativas da IA”

No ano passado, houve uma atenção crescente para a regulação da indústria de IA, e este ano parece estar continuando a tendência. Recentemente, Sundar Pichai, CEO do Google (GOOGL ) e da Alphabet Inc. (GOOG ), apoiou a regulação da IA em um think tank econômico realizado em Brugel.

Os comentários de Pichai foram provavelmente feitos em antecipação aos novos planos da UE para regular a IA, que serão revelados em algumas semanas. É possível que as regulamentações da UE contenham políticas que exigem legalmente certos padrões para a IA utilizada em setores de alto risco, como transporte e saúde. As novas regulamentações da UE também podem exigir mais transparência sobre sistemas e plataformas de IA.

De acordo com o Bloomberg, o Google tentou anteriormente desafiar multas antitruste e aplicação de direitos autorais na UE. Apesar de tentativas anteriores de resistir a certos quadros regulatórios na Europa, Pichai afirmou que a regulação é bem-vinda desde que adote “uma abordagem proporcional, equilibrando danos potenciais com oportunidades sociais”.

Pichai recentemente escreveu um artigo de opinião no Financial Times, onde reconheceu que, juntamente com muitas oportunidades para melhorar a sociedade, a IA também tem o potencial de ser mal utilizada. Pichai afirmou que as regulamentações devem ajudar a evitar as “consequências negativas da IA”, citando o uso abusivo de reconhecimento facial e deepfakes como aplicações negativas da IA. Pichai afirmou que a alinhamento internacional é necessário para que os princípios regulatórios funcionem, e que, portanto, é necessário haver acordo sobre valores fundamentais. Além disso, Pichai disse que é responsabilidade das empresas de IA, como o Google, considerar como a IA pode ser utilizada de forma ética e que é por isso que o Google adotou seus próprios padrões para o uso ético da IA em 2018.

Pichai afirmou que os órgãos reguladores governamentais e as políticas desempenharão um papel importante para garantir que a IA seja utilizada de forma ética, mas que esses órgãos não precisam começar do zero. Pichai sugere que as entidades reguladoras podem olhar para regulamentações estabelecidas anteriormente para inspiração, como o Regulamento Geral de Proteção de Dados da Europa. Pichai também escreveu que a regulação ética da IA pode ser ao mesmo tempo ampla e flexível, com a regulação fornecendo orientação geral que pode ser adaptada para implementações específicas em setores específicos de IA. Novas tecnologias, como veículos autônomos, exigirão novas regras e políticas que pesem benefícios e custos, enquanto para terrenos mais bem estabelecidos, como dispositivos médicos, os quadros existentes podem ser um bom ponto de partida.

Finalmente, Pichai afirmou que o Google deseja ser um parceiro útil e engajado para os reguladores ao desenvolver políticas e encontrar soluções que equilibrem os trade-offs, Pichai escreveu no Financial Times:

“Queremos ser um parceiro útil e engajado para os reguladores à medida que lidam com as tensões e trade-offs inevitáveis. Oferecemos nossa expertise, experiência e ferramentas à medida que navegamos por essas questões juntos.”

Enquanto alguns elogiaram o Google por tomar uma posição sobre a necessidade de regulação para garantir o uso ético da IA, o debate continua sobre a extensão em que é apropriado que as empresas de IA sejam envolvidas na criação de quadros regulatórios.

Quanto às próprias regulamentações da UE, é possível que a UE esteja perseguindo um sistema de regras baseado em risco, que imporia restrições mais rigorosas a aplicações de alto risco da IA. Isso inclui restrições que podem ser muito mais rigorosas do que o Google espera, incluindo uma possível proibição de vários anos sobre a tecnologia de reconhecimento facial (com exceções para pesquisa e segurança). Em contraste com as abordagens mais restritivas da UE, os EUA têm defendido regulamentações relativamente leves. Resta ser visto como as diferentes estratégias de regulação afetarão o desenvolvimento da IA e a sociedade em geral, nas duas regiões diferentes do globo.