Código de Conduta de IA da UE Pronto para Impactar Regulamentação

A Comissão Europeia introduziu recentemente um Código de Conduta que pode mudar a forma como as empresas de IA operam. Não é apenas mais um conjunto de diretrizes, mas sim uma reformulação completa da fiscalização da IA que nem mesmo as maiores empresas podem ignorar.

O que torna isso diferente? Pela primeira vez, estamos vendo regras concretas que podem forçar empresas como OpenAI e Google a abrir seus modelos para testes externos, uma mudança fundamental na forma como os sistemas de IA podem ser desenvolvidos e implantados na Europa.

Os Novos Principais Jogadores na Fiscalização da IA

A Comissão Europeia criou um quadro que especificamente visa o que eles estão chamando de sistemas de IA com “risco sistêmico”. Estamos falando de modelos treinados com mais de 10^25 FLOPs de poder computacional – um limiar que o GPT-4 já ultrapassou.

As empresas precisarão relatar seus planos de treinamento de IA duas semanas antes de mesmo começarem.

No centro desse novo sistema estão dois documentos-chave: o Quadro de Segurança e Segurança (SSF) e o Relatório de Segurança e Segurança (SSR). O SSF é uma estrada abrangente para gerenciar riscos de IA, cobrindo tudo, desde a identificação inicial de riscos até medidas de segurança contínuas. Enquanto isso, o SSR serve como uma ferramenta de documentação detalhada para cada modelo individual.

Testes Externos para Modelos de IA de Alto Risco

A Comissão está exigindo testes externos para modelos de IA de alto risco. Isso não é apenas um controle de qualidade interno padrão – especialistas independentes e o Escritório de IA da UE estão examinando esses sistemas.

As implicações são grandes. Se você é a OpenAI ou o Google, você precisa deixar que especialistas externos examinem seus sistemas. O rascunho explicita que as empresas devem “garantir testes de especialistas independentes suficientes antes da implantação.” Isso é uma grande mudança em relação à abordagem atual de auto-regulamentação.

A pergunta surge: Quem é qualificado para testar esses sistemas de IA incrivelmente complexos? O Escritório de IA da UE está entrando em um território que nunca foi mapeado antes. Eles precisarão de especialistas que possam entender e avaliar a nova tecnologia de IA, mantendo ao mesmo tempo a confidencialidade estrita sobre o que descobrem.

Essa exigência de teste externo pode se tornar obrigatória em toda a UE por meio de um ato de implementação da Comissão. As empresas podem tentar demonstrar conformidade por meio de “meios alternativos adequados”, mas ninguém sabe exatamente o que isso significa na prática.

Proteção de Direitos Autorais se Torna Séria

A UE também está se tornando séria em relação aos direitos autorais. Eles estão forçando os provedores de IA a criar políticas claras sobre como lidam com propriedade intelectual.

A Comissão está apoiando o padrão robots.txt – um arquivo simples que diz aos crawlers de web onde eles podem e não podem ir. Se um site disser “não” por meio do robots.txt, as empresas de IA não podem simplesmente ignorar e treinar no conteúdo de qualquer forma. Os mecanismos de busca não podem penalizar sites por usarem essas exclusões. É uma jogada de poder que coloca os criadores de conteúdo de volta no comando.

As empresas de IA também precisarão ativamente evitar sites de pirataria ao coletar dados de treinamento. A UE até os está apontando para sua “Lista de Vigilância de Contrafação e Pirataria” como um ponto de partida.

O Que Isso Significa para o Futuro

A UE está criando um campo de jogo completamente novo para o desenvolvimento de IA. Esses requisitos afetarão tudo, desde como as empresas planejam seus projetos de IA até como elas coletam seus dados de treinamento.

Cada grande empresa de IA agora enfrenta uma escolha. Elas precisam:

• Abrir seus modelos para testes externos
• Descobrir o que significam aqueles “meios alternativos” misteriosos de conformidade
• Ou potencialmente limitar suas operações no mercado da UE

O cronograma aqui também importa. Isso não é alguma regulamentação de longo prazo – a Comissão está se movendo rapidamente. Eles conseguiram reunir cerca de 1.000 partes interessadas divididas em quatro grupos de trabalho, todos elaborando os detalhes de como isso vai funcionar.

Para as empresas que constroem sistemas de IA, os dias de “mover-se rapidamente e descobrir as regras mais tarde” podem estar chegando ao fim. Elas precisarão começar a pensar nesses requisitos agora, não quando se tornarem obrigatórios. Isso significa:

• Planejar auditorias externas em sua linha do tempo de desenvolvimento
• Configurar sistemas de conformidade de direitos autorais robustos
• Construir estruturas de documentação que atendam aos requisitos da UE

O impacto real dessas regulamentações se desenrolará nos próximos meses. Enquanto algumas empresas podem buscar contornos, outras integrarão esses requisitos em seus processos de desenvolvimento. O quadro da UE pode influenciar como o desenvolvimento de IA acontece globalmente, especialmente se outras regiões seguirem com medidas de fiscalização semelhantes. À medida que essas regras mudam de rascunho para implementação, a indústria de IA enfrenta sua maior mudança regulatória até agora.