Líderes de pensamento

Sim, o Regulamento de IA da UE abrange a IA agêntica — veja como

Dr. Ley Muller Gyda Grodås Christiansen
Adicione Unite.AI às suas fontes preferidas no Google
Pontos-chaveA IA agêntica já se enquadra no Regulamento de IA da UE porque cumpre a definição de um…
Ver mais
  • A IA agêntica já se enquadra no Regulamento de IA da UE porque cumpre a definição de um sistema de IA.
  • O Regulamento de IA regula o que a tecnologia faz e os riscos que cria, em vez de nomear tecnologias específicas.
  • As gigantes tecnológicas que fazem lobby contra o Regulamento de IA estão a promover a autorregulação, o que equivale à captura regulatória.

Há atualmente uma narrativa bastante difundida de que a IA agêntica e os agentes de IA estão numa espécie de lacuna regulatória — de que o Regulamento de IA da UE não está preparado para regulamentá-los. Lemos isso em veículos de comunicação noruegueses respeitados (Morgenbladet e Dagensnæringsliv) e vimos a afirmação ser repetida por acadêmicos de destaque (Universidade de Oslo). Vemos duas falhas fundamentais nessas alegações… e acreditamos que elas se baseiam em temores, não em fatos.

Em primeiro lugar, a IA agêntica é regulamentada pelo Regulamento de IA da UE.

Em segundo lugar, alegações desse tipo enfraquecem as regulamentações existentes. Elas reforçam a ideia de que as empresas de IA estão mais bem posicionadas para administrar os riscos associados aos próprios sistemas — um argumento comum que leva à captura regulatória.

Trabalhamos bastante de perto com o Regulamento de IA, como membros nomeados do comitê nacional de IA da Standards Norway. Também integramos os comitês europeus que desenvolvem normas harmonizadas para fornecedores de sistemas de IA de alto risco; essas normas ajudam as empresas a cumprir os requisitos legais do Regulamento de IA.

A IA agêntica é regulamentada de várias maneiras pelo Regulamento de IA da UE

A Comissão Europeia publicou várias perguntas frequentes em linguagem simples e de fácil compreensão sobre “agentes” e “IA agêntica” e esclareceu que, sim, eles estão abrangidos pelo regulamento, simplesmente porque se enquadram na definição mais ampla de sistema de IA (Como os agentes de IA são abordados no Regulamento de IA? | Central de Atendimento do Regulamento de IA). Veja mais alguns exemplos:

  • A IA agêntica costuma ser desenvolvida com base em grandes modelos de linguagem, que são regulamentados como modelos de IA de uso geral.
  • Quando um sistema de IA agêntica interage com pessoas, também passam a valer os requisitos de transparência do regulamento.
  • Se um modelo de IA for classificado como um risco sistêmico, o fornecedor estará sujeito a requisitos adicionais. Entre outras coisas, esses requisitos incluem avaliações das capacidades do modelo — inclusive de seus recursos autônomos e agênticos.

O Regulamento de IA não menciona a palavra “agente”, mas isso ocorre porque não regulamenta tipos específicos de tecnologia. Em vez disso, regulamenta aquilo que a tecnologia foi concebida para fazer e os riscos associados a essas funções.

O Regulamento de IA busca proteger nossos direitos fundamentais

Muitas críticas ao Regulamento de IA feitas por quem deseja mais regulamentação decorrem da impossibilidade estrutural de eliminar todos os riscos. Mas seria impossível para uma estrutura regulatória internacional prever todos os riscos futuros.

Em vez disso, o Regulamento de IA se concentra nos riscos apresentados por sistemas de IA que podem afetar a saúde, a segurança e os direitos fundamentais — um aspecto mencionado já na primeira frase do primeiro artigo.

Também é crucial o que não destacamos nessa primeira frase: o Regulamento de IA é orientado para o mercado. Ele deve incentivar o uso da IA. Deve apoiar a inovação. Em outras palavras, o Regulamento de IA é favorável à IA. Nesse contexto, determinadas aplicações e áreas são regulamentadas.

Algumas áreas são previamente classificadas como de alto risco

Veja alguns exemplos de sistemas de IA usados em:

  • recrutamento
  • distribuição de serviços essenciais
  • dispositivos médicos
  • sistemas integrados à infraestrutura crítica, nos quais a segurança é primordial.

Os fornecedores de sistemas de IA — sejam agênticos ou não — que possam afetar nossos direitos devem estabelecer sistemas abrangentes de gestão de riscos, incluindo uma avaliação de como os usuários podem fazer uso indevido do sistema de IA.

Captura regulatória: quando os fornecedores propõem a autorregulação

Se ouvirmos a Anthropic, a OpenAI e a Meta, assim como certas vozes no debate norueguês, podemos ficar com a impressão de que a IA e a IA agêntica são complexas demais para o Regulamento de IA. Avançadas demais para a UE. Perigosas demais para serem regulamentadas por alguém que não sejam as próprias empresas.

Devemos ter cautela quando as empresas de tecnologia mais poderosas do mundo — que fizeram forte lobby por uma implementação menos rigorosa do Regulamento de IA — afirmam agora que o regulamento é inadequado para controlar seus sistemas mais poderosos. A solução que propõem é “regulamentar” a si mesmas.

Esse é um mecanismo clássico de captura regulatória, um processo no qual leis e regulamentos são gradualmente moldados pelas próprias entidades que deveriam regulamentar, em benefício delas mesmas.

Os Estados Unidos oferecem um exemplo claro disso (Inaugurando a era da superinteligência – Casa Branca). O Acordo da Casa Branca sobre Superinteligência é um “pacto voluntário” firmado com líderes do X, da Meta, da Anthropic, da OpenAI e do Google, no qual essas empresas se comprometem a se autorregulamentar. O documento observa que talvez as leis sejam apropriadas em algum momento hipotético no futuro: “Com o tempo, pode fazer sentido transformar essas medidas em leis ou regulamentos.” Com o tempo. Talvez. Pode ser razoável considerar a possibilidade de regulamentações.

Por enquanto, porém, espera-se que os americanos confiem que essas grandes empresas de tecnologia se autorregulem.

Ao contrário dos Estados Unidos, a Europa tem uma lei vinculante: o AI Act.

Ainda assim, a captura regulatória continua sendo um risco, inclusive por meio da erosão da confiança nessa lei. Afinal, se as gigantes da tecnologia conseguirem convencer as pessoas de que o AI Act não é suficientemente bom, deixaremos de apoiar sua aplicação. Alegações de que a IA agêntica seria simplesmente avançada, inteligente ou perigosa demais para ser regulamentada pelo AI Act são argumentos que enfraquecem nosso apoio à regulamentação.

Uma vez estabelecida, é difícil reverter a captura regulatória.

Compartilhamos a preocupação de que alguns sistemas de IA possam levar a consequências difíceis de prever. Precisamente por esse motivo, precisamos de procedimentos de gestão de riscos — como também exige o AI Act. (O Dr. Muller faz parte do comitê que está quase concluindo a elaboração da norma harmonizada para a gestão de riscos, 18228.)

O AI Act da UE não é perfeito e provavelmente precisará ser desenvolvido ainda mais. No entanto, apresentar a IA agêntica como uma área fora do âmbito do AI Act da UE só gera incerteza, não segurança.

Dr. Ley Muller é especialista em governança ética da IA. Ela participa de comitês de padronização da IA e também administra uma empresa de consultoria em governança da IA, a Values-driven AI. Metade do tempo, ajuda fornecedores europeus de IA a cumprir os requisitos da Lei de IA; na outra metade, ajuda grandes organizações públicas a gerenciar o uso de IA paralela e a promover um alinhamento mais amplo entre as partes interessadas em torno das estratégias de IA.

Gyda Grodås Christiansen é consultora sênior nas áreas de saúde digital, informática em saúde e governança da inteligência artificial. Ela contribui para a normalização internacional por meio do Comitê Técnico Conjunto 21 da CEN/CENELEC e da Standard Norway. Seu trabalho se concentra na interoperabilidade, nos dados de saúde e na adoção responsável da IA na área da saúde.