Entrevistas

Stavros Gadinis, professor de Direito em Berkeley e autor de Corporate Ordering – Série de entrevistas

Antoine Tardif
Adicione Unite.AI às suas fontes preferidas no Google
Stavros Gadinis, George R. Johnson Professor of Law at UC Berkeley School of Law
Pontos-chaveA contratação corporativa descreve como as empresas escrevem regras e se monitoram…
Ver mais
  • A contratação corporativa descreve como as empresas escrevem regras e se monitoram antes que os reguladores ajam.
  • As avaliações de segurança da IA carecem de independência quando a gestão contrata e pode demitir seus próprios revisores externos.
  • Uma estrutura de segurança que nunca atrasou um lançamento é indistinguível de relações públicas.

Stavros Gadinis é professor de Direito George R. Johnson na UC Berkeley School of Law. Sua pesquisa examina a governança corporativa, a regulamentação financeira e os sistemas internos que as empresas usam para tomar decisões e monitorá-las. Antes de ingressar na academia, atuou na área do direito corporativo na Europa.

Seu novo livro, Ordenamento corporativo: como as empresas lidam com conflitos sociais, publicado pela Cambridge University Press, examina como as empresas desenvolvem sistemas de governança quando as regras públicas ainda não estão definidas. Com base em casos envolvendo transporte por aplicativo, sustentabilidade climática e inteligência artificial, a obra analisa como as empresas elaboram regras, exercem autoridade e supervisionam a própria conduta.

Sua carreira abrange a prática do direito corporativo na Europa e a pesquisa sobre governança corporativa e regulamentação financeira em Berkeley Law. Como essa trajetória moldou seu pensamento e o que o inspirou a escrever Corporate Ordering?

Comecei minha carreira atuando na área do direito corporativo na Europa e, depois, passei muitos anos em Berkeley estudando governança corporativa e regulamentação financeira, inclusive a maneira como as regras se difundem entre países quando nenhum governo está no comando. Tendemos a pensar no mundo dos negócios e no mundo regulatório como opostos: um interessado em decisões rápidas e grandes lucros, o outro comprometido com processos burocráticos e o bem público. Tanto a prática quanto a pesquisa me ensinaram que essa fronteira é muito mais difusa.

O livro surgiu de conversas com advogados-gerais e altos executivos sobre como lidam com decisões controversas, daquelas em que funcionários, clientes, comunidades e governos querem coisas diferentes. O que me chamou a atenção foi o quanto os métodos deles se parecem com os de um bom órgão regulador. Eles coletam informações consultando as pessoas afetadas, explicam publicamente suas escolhas e criam mecanismos para verificar se elas se sustentam. Esses não são hábitos exclusivos dos órgãos reguladores nem das empresas. São princípios para tomar decisões com responsabilidade em qualquer instituição que exerça poder sobre outras pessoas. Em Corporate Ordering, tento descrever essa estrutura, mostrar onde funciona e onde falha.

O que é “ordenamento corporativo” e como esse conceito ajuda a explicar a maneira como as empresas de IA estabelecem regras para tecnologias que a regulamentação ainda não conseguiu acompanhar?

Ordenamento corporativo é a infraestrutura interna de governança que as empresas constroem para tomar decisões controversas antes que a lei lhes diga o que fazer. Ela tem três funções, que espelham os poderes de um Estado. A elaboração de regras é o processo pelo qual uma empresa define seus próprios princípios. A ação executiva é a forma como os aplica a decisões concretas. O monitoramento permite verificar se as medidas foram implementadas e descobrir quando isso não aconteceu.

As empresas de IA desempenham as três funções. Os laboratórios de ponta elaboram constituições, especificações de modelos e estruturas de segurança — a elaboração de regras. Decidem se um modelo está pronto para ser lançado, o que ele recusará fazer e quem terá acesso — a ação executiva. E encomendam exercícios de equipe vermelha, avaliações externas e relatórios de incidentes — o monitoramento. No livro, traço um panorama dessas funções nos principais laboratórios. As diferenças são reais, mas também há uma convergência notável, à medida que cada empresa percebe por que precisa de todos esses elementos.

Quero deixar uma coisa clara, porque muitas vezes ela é mal interpretada. O ordenamento corporativo não é um argumento contra a regulamentação. Ele descreve o material a partir do qual a regulamentação será construída. Quando os legisladores agem, recorrem a conceitos que as empresas desenvolveram primeiro. A verdadeira questão é se essa primeira versão foi elaborada com cuidado suficiente para merecer ser aproveitada.

Seu livro examina o transporte por aplicativo, a sustentabilidade climática e a governança da IA. Quais lições das duas primeiras áreas são mais úteis para a IA, e em que aspectos a IA apresenta desafios fundamentalmente diferentes?

A lição do transporte por aplicativo e do clima é que, muitas vezes, as empresas escrevem a primeira versão da lei. Uber e Lyft desenvolveram práticas de seguro e de comunicação de informações sobre segurança antes que os estados tivessem regras para isso, e grande parte da contabilização corporativa de carbono se baseia no Protocolo GHG, uma norma que as empresas ajudaram a elaborar. Depois, os órgãos reguladores chancelaram essas práticas, complementaram-nas ou as incorporaram à lei. A regulamentação raramente começa do zero. E quanto mais criteriosas forem as escolhas das empresas e mais levarem em conta as partes afetadas, maior a probabilidade de essas escolhas serem incorporadas à regulamentação.

A IA é diferente em dois aspectos. O primeiro é a velocidade. Muitas vezes, os órgãos reguladores ficam um passo atrás do setor, mas, no caso da IA, a distância é bem maior. Eles terão de recorrer às empresas para desenvolver normas e processos internos e concentrar os próprios esforços na supervisão, na verificação e na aplicação das regras. Isso torna seu papel diferente, não menos importante. A verificação é onde o poder público tem maior importância, pois é onde o conflito de interesses com a administração é mais intenso. A segunda diferença é o alcance. A IA afeta quase todos os aspectos da vida cotidiana e se tornou um grande investimento para a nação como um todo. As implicações para o risco sistêmico são tão impossíveis de ignorar quanto difíceis de compreender.

Quando uma empresa de IA escolhe e paga seus próprios avaliadores externos de segurança, que salvaguardas tornam essa supervisão verdadeiramente independente?

Esse conflito de interesses é conhecido na auditoria financeira, e o direito societário já dispõe de ferramentas para administrá-lo. A primeira questão é quem contrata e demite. A relação com o avaliador deve ficar a cargo de conselheiros independentes, sem outros vínculos financeiros com a empresa, assim como o comitê de auditoria — e não o CEO ou o CFO — supervisiona o auditor externo. A administração não deve poder demitir um avaliador cujas conclusões sejam inconvenientes.

A segunda questão é o acesso e a publicação. O avaliador precisa ter acesso ao que solicitar e poder publicar suas conclusões — ou, pelo menos, um resumo significativo — sem que a empresa possa vetá-las. É o risco para a reputação que dá força a uma avaliação. A terceira questão são os padrões comuns de avaliação, para que uma avaliação tenha o mesmo significado em diferentes empresas e os avaliadores não possam competir sendo mais tolerantes. A quarta é a proteção a denunciantes e até mesmo recompensas quando eles apresentam informações que permitem agir, pois muitas vezes são os funcionários da empresa os primeiros a saber que uma avaliação foi direcionada.

Suponhamos que um avaliador externo identifique uma preocupação séria de segurança pouco antes do lançamento de um modelo importante. Quem deve receber essa conclusão e quem deve ter autoridade para adiar ou interromper a implantação?

A conclusão deve ser encaminhada diretamente ao conselho de administração, de preferência a um comitê de conselheiros independentes responsável pela segurança, e não apenas à equipe de gestão que está pressionando pelo lançamento. A administração pode e deve responder, mas não deve atuar como filtro. A autoridade para adiar ou interromper a implantação deve caber ao conselho, pois esse é exatamente o tipo de decisão que cabe a um conselho tomar: uma decisão de alto impacto, com interesses conflitantes e sem uma resposta obviamente correta.

Mas o mais importante é que a decisão seja explícita, documentada e rastreável até as pessoas que a tomaram. Se o conselho decidir prosseguir apesar da preocupação, o registro deve mostrar o que ele sabia, o que ponderou e por que considerou o risco aceitável. Esse registro documental cria condições para responsabilização ou, no mínimo, danos à reputação, e faz com que as pessoas pensem duas vezes. Os tribunais estão cada vez mais dispostos a reconhecer que as escolhas de design em softwares têm consequências para os usuários, e uma empresa capaz de demonstrar que fez um esforço sério e documentado está em uma situação muito diferente daquela que não consegue fazê-lo.

Quando as preocupações com a segurança entram em conflito com as metas de receita ou a pressão competitiva, como deve ser um processo decisório confiável do conselho?

Um processo confiável é bem informado e deixa registros. O conselho deve receber informações concretas sobre os custos do adiamento, a natureza e a probabilidade da preocupação com a segurança e as opções para mitigá-la. Deve perguntar se os testes foram adequados e, se não foram, encomendar testes adicionais ou solicitar uma avaliação externa. Quando persiste uma incerteza real, há alternativas entre lançar e engavetar o produto, como um lançamento limitado, uma implementação em etapas ou um ambiente de testes isolado, que permitem à empresa aprender mais antes de se comprometer. E, qualquer que seja a decisão do conselho, o que a empresa declarar publicamente sobre a segurança do modelo deve ser preciso — é aí que reside grande parte do atual risco de litígio.

Em seguida, o conselho deve registrar o que decidiu e por quê. Com o tempo, esses registros formam um conjunto de precedentes, de modo que a próxima decisão difícil seja avaliada à luz da anterior e qualquer pessoa que examine a empresa possa verificar se os princípios que ela declara realmente orientam suas decisões. A Microsoft começou a criar esse tipo de registro decisório, e acredito que seja uma das ferramentas mais subestimadas da governança da IA. A pressão competitiva é real, e o conselho pode decidir, de forma razoável, seguir em frente. O que não pode fazer é deixar que a decisão aconteça por inércia.

Seu trabalho propõe um padrão de “julgamento empresarial social” para avaliar as decisões dos conselhos. Como ele se aplicaria a uma empresa de IA que adia o lançamento de um produto lucrativo por causa de possíveis danos ao público?

De acordo com o direito societário vigente, um conselho que adia um lançamento lucrativo já conta com ampla proteção. Os tribunais deferem ao julgamento empresarial dos conselheiros, e aceitar lucros menores hoje para evitar danos amanhã se enquadra perfeitamente nesse princípio. A questão mais difícil é a inversa: se o conselho levou a sério os possíveis danos ao público.

O julgamento empresarial social propõe que o conselho avalie os possíveis danos ao público da mesma forma que avalia qualquer outro risco empresarial, recorrendo, sempre que possível, a métricas concretas, mensuráveis e específicas. A ênfase está no processo e na devida diligência, não no resultado. Um conselho que obtém as informações certas, ouve as pessoas afetadas e registra seu raciocínio merece deferência, quer adie o lançamento, quer prossiga. Um conselho que não faz nada disso não merece. Portanto, no caso que você descreve, o adiamento em si não é o problema. A questão é se o conselho consegue mostrar como chegou a essa decisão e se chegaria à mesma conclusão novamente diante dos mesmos fatos.

Empresas de IA publicam estruturas de segurança e compromissos voluntários, mas raramente os leitores conseguem ver como essas políticas afetam decisões específicas. Que evidências permitiriam distinguir uma governança eficaz de uma iniciativa de relações públicas?

Com muita frequência, quando as empresas publicam estruturas de governança, o público fica sem saber se elas realmente se aplicam a decisões específicas ou se continuam sendo apenas retórica que a empresa não põe em prática. A resposta está em um tipo específico de divulgação. Em vez de publicar mais declarações de princípios, as empresas deveriam informar quais decisões tomaram e como a estrutura de governança as orientou: quais lançamentos foram adiados, quais recursos foram retidos, quais limites de risco foram atingidos e o que aconteceu em seguida.

A evidência mais reveladora é uma decisão que teve algum custo para a empresa. É difícil distinguir de uma ação de relações públicas uma estrutura de governança que nunca mudou um resultado, nunca adiou um lançamento e nunca foi invocada para contrariar interesses de receita. Essas divulgações também precisam ser suficientemente específicas para permitir verificação e, no caso das questões de maior importância, devem ser verificadas por terceiros com credibilidade para se pronunciar publicamente.

Até onde vai a autogovernança corporativa? Quais decisões sobre o nível aceitável de risco da IA exigem regras públicas ou supervisão democrática?

O limite mais importante diz respeito às falhas de monitoramento. Até mesmo uma empresa bem-intencionada e responsável pode enfrentar uma crise grave e, nesse momento, os conflitos de interesse se multiplicam. Os funcionários podem ocultar informações que prejudiquem seus empregos ou bônus. Os executivos podem suprimir notícias ruins para evitar críticas públicas. O medo de processos judiciais pode impedir a empresa de ser transparente. Em crises corporativas anteriores, as informações cruciais geralmente vieram de pessoas que a liderança não podia controlar: auditores e revisores externos, partes afetadas ou denunciantes internos que usaram canais independentes de denúncia.

É nesse aspecto que as regras públicas são mais importantes. A lei pode contribuir relativamente pouco na etapa de elaboração das regras, porque as leis tendem a tomar emprestados das empresas seus conceitos fundamentais. Pode contribuir mais no que diz respeito à divulgação, abrangendo empresas que não divulgariam informações voluntariamente. E sua maior contribuição é na verificação, ao exigir análises independentes, proteger denunciantes e dar autoridade efetiva às verificações externas.

O outro limite é coletivo. O máximo que uma única empresa pode fazer é impedir que ela própria avance. Ela não pode impedir seus concorrentes. Decisões sobre riscos catastróficos, inclusive sobre desacelerar a fronteira tecnológica, exigem coordenação entre empresas e governos, tanto no âmbito nacional quanto internacional. Um modelo que considero promissor é a criação de um órgão internacional de normalização nos moldes do ISSB, voltado à divulgação de informações sobre sustentabilidade, independente dos governos, mas supervisionado por curadores que os incluam. A ordenação corporativa é necessária para esse trabalho, porque a contenção desses modelos ocorre dentro das empresas que os desenvolvem, mas não pode, por si só, dar conta de todo o trabalho.

Se estivesse hoje assessorando o conselho de administração de uma empresa de IA em rápido crescimento, quais três mudanças na governança priorizaria e que evidências buscaria um ano depois para determinar se elas deram resultado?

Primeiro, consulta durante a elaboração das regras. Antes de adotar ou revisar sua estrutura de segurança ou suas políticas de uso, a empresa deveria consultar as pessoas afetadas — usuários, sociedade civil e especialistas da área — e publicar o que ouviu e como respondeu. Segundo, relatórios periódicos sobre responsabilidades: um relato anual das decisões difíceis tomadas pelo conselho de administração e pela direção com base na estrutura de governança, com detalhes suficientes para permitir sua verificação. Terceiro, um monitor externo, contratado e supervisionado por conselheiros independentes, com acesso irrestrito e o direito de publicar suas conclusões.

Um ano depois, eu procuraria evidências de que cada medida realmente surtiu efeito. Quanto à consulta, pelo menos uma regra que tenha mudado em razão do que a empresa ouviu. Quanto aos relatórios, decisões divulgadas que a empresa preferiria não ter discutido, inclusive as que lhe custaram receita ou tempo. Quanto ao monitor, conclusões que a empresa não queria ver e um registro das medidas tomadas pelo conselho de administração em resposta a elas. Se, após um ano, tudo o que foi relatado forem boas notícias, as mudanças não terão dado resultado.

Obrigado pela ótima entrevista. Os leitores que desejarem conhecer o livro e as opções de compra devem visitar o site oficial de Ordenação Corporativa.

Antoine é um líder visionário e sócio fundador da Unite.AI, movido por uma paixão inabalável por moldar e promover o futuro da IA e da robótica. Empreendedor que já fundou várias empresas, acredita que a IA transformará a sociedade tanto quanto a eletricidade e costuma falar com entusiasmo sobre o potencial das tecnologias disruptivas e da inteligência artificial geral (AGI).

Como futurista, dedica-se a explorar como essas inovações moldarão o nosso mundo. Além disso, é fundador da Securities.io, uma plataforma voltada ao investimento em tecnologias de ponta que estão redefinindo o futuro e transformando setores inteiros.