Repensando o Código Aberto na Era do AI Gerativo

O modelo de código aberto – uma ética de desenvolvimento de software na qual o código-fonte é disponibilizado gratuitamente para redistribuição ou modificação – tem sido um catalisador de inovação por muito tempo. O ideal nasceu em 1983, quando Richard Stallman, um desenvolvedor de software, ficou frustrado com a natureza de caixa preta de sua impressora de código fechado com defeito.

Sua visão despertou o movimento de software livre, abrindo caminho para o ecossistema de código aberto que impulsiona grande parte da inovação da internet e do software de hoje.

Mas isso foi há mais de 40 anos.

Hoje, o AI Gerativo, com seus desafios técnicos e éticos únicos, está redefinindo o significado de “abertura”, exigindo que revisitemos e repensemos o paradigma de código aberto – não para abandoná-lo, mas para adaptá-lo.

IA e as Liberdades de Código Aberto

As quatro liberdades fundamentais do software de código aberto – a capacidade de executar, estudar, modificar e redistribuir qualquer código de software – estão em desacordo com a natureza do AI gerativo de várias maneiras:

• Executar: Os modelos de IA frequentemente exigem infraestrutura e custos computacionais muito altos, o que limita o acesso devido a restrições de recursos.
• Estudar e modificar: Os modelos de IA são incrivelmente complexos, então entender e alterar sem acesso ao código e aos dados que o informam é um desafio significativo.
• Redistribuir: Muitos modelos de IA restringem a redistribuição por design, particularmente aqueles com pesos treinados e conjuntos de dados proprietários de propriedade do provedor de plataforma.

A erosão desses princípios fundamentais não se deve a intenções maliciosas, mas sim à complexidade e ao custo dos sistemas de IA modernos. De fato, as demandas financeiras para treinar modelos de IA de ponta aumentaram dramaticamente nos últimos anos – o GPT-4 da OpenAI supostamente incorreu em custos de treinamento de até $78 milhões, excluindo salários de funcionários, com despesas totais excedendo $100 milhões. ​

A Complexidade do “Código Aberto” da IA

Um modelo de IA verdadeiramente aberto exigiria transparência total do código-fonte de inferência, código-fonte de treinamento, pesos do modelo e dados de treinamento. No entanto, muitos modelos rotulados como “abertos” só liberam o código de inferência ou pesos parciais, enquanto outros oferecem licenças limitadas ou restringem o uso comercial por completo.

Essa abertura imparcial cria a ilusão de princípios de código aberto, enquanto deixa a desejar na prática.

Considere que uma análise da Open Source Initiative (OSI) encontrou que vários modelos de linguagem grande populares afirmam ser de código aberto – incluindo Llama2 e Llama 3.x (desenvolvidos pela Meta), Grok (X), Phi-2 (Microsoft) e Mixtral (Mistral AI) – são incompatíveis com os princípios de código aberto.

Desafios de Sustentabilidade e Incentivização

A maioria dos softwares de código aberto foi construída com base em esforços voluntários ou financiados por subvenções, e não em infraestruturas de alto custo e intensivas em computação. Os modelos de IA, por outro lado, são caros para treinar e manter, e os custos devem aumentar. O CEO da Anthropic, Dario Amodei, prevê que eventualmente pode custar $100 bilhões para treinar um modelo de ponta.

Sem um modelo de financiamento sustentável ou estrutura de incentivos, os desenvolvedores enfrentam uma escolha entre restringir o acesso por meio de código fechado ou licenças não comerciais ou arriscar a falência financeira.

Conceitos Errados em Torno de “Pesos Abertos” e Licenciamento

A acessibilidade dos modelos de IA se tornou cada vez mais confusa, com muitas plataformas se autopromovendo como “abertas” enquanto impõem restrições que contradizem fundamentalmente os princípios de código aberto. Essa “prestidigitação” se manifesta de várias maneiras:

• Modelos rotulados como “pesos abertos” podem proibir o uso comercial por completo, mantendo-os mais como curiosidades acadêmicas do que ferramentas práticas de negócios para o público explorar e desenvolver.
• Alguns provedores oferecem acesso a modelos pré-treinados, mas guardam zelosamente seus conjuntos de dados de treinamento e metodologias, tornando impossível reproduzir ou verificar seus achados de forma significativa.
• Muitas plataformas impõem restrições de redistribuição que impedem os desenvolvedores de construir ou melhorar os modelos para suas comunidades, mesmo que possam acessar totalmente o código.

Nesses casos, “aberto para pesquisa” é apenas um eufemismo para “fechado para negócios”. O resultado é uma forma desonesta de bloqueio de fornecedor, onde as organizações investem tempo e recursos em plataformas que parecem acessíveis, apenas para descobrir limitações críticas quando tentam dimensionar ou comercializar as aplicações.

A confusão resultante não apenas frustra os desenvolvedores. Ela também subverte a confiança no ecossistema de IA. Ela cria expectativas irrealistas entre as partes interessadas que supõem razoavelmente que o “aberto” da IA é comparável às comunidades de software de código aberto, onde a transparência, os direitos de modificação e a liberdade comercial são mantidos.

Atraso Legal

O avanço rápido do GenAI já está superando o desenvolvimento de quadros legais apropriados, criando uma complexa teia de desafios de propriedade intelectual que compõem as preocupações pré-existentes.

O primeiro grande campo de batalha legal gira em torno do uso de dados de treinamento. Os modelos de aprendizado profundo extraem grandes conjuntos de dados da Internet, como imagens e textos de páginas da web publicamente disponíveis. Essa coleta maciça de dados acendeu debates acalorados sobre direitos de propriedade intelectual. As empresas de tecnologia argumentam que seus sistemas de IA estudam e aprendem com materiais protegidos por direitos autorais para criar novo conteúdo transformador. Os proprietários de direitos autorais, por outro lado, afirmam que essas empresas de IA copiam ilegalmente suas obras, gerando conteúdo concorrente que ameaça seus meios de subsistência.

A propriedade de obras derivadas geradas por IA representa ainda outra ambiguidade legal. Ninguém tem certeza de como classificar o conteúdo gerado por IA, exceto pelo Escritório de Direitos Autorais dos EUA, que afirma que “se a IA gera entirely o conteúdo, ele não pode ser protegido por direitos autorais.”

A incerteza legal em torno do GenAI – particularmente em relação à violação de direitos autorais, propriedade de obras derivadas geradas por IA e conteúdo não licenciado em dados de treinamento – se torna ainda mais complicada à medida que os modelos de IA fundamentais emergem como ferramentas de importância geopolítica: As nações que correm para desenvolver capacidades de IA superiores podem ser menos inclinadas a restringir o acesso a dados, colocando países com proteções de PI mais estritas em desvantagem competitiva.

O que o Código Aberto Deve se Tornar na Era do AI

O trem do GenAI já partiu e não mostra sinais de desaceleração. Esperamos construir um futuro onde a IA incentive em vez de sufocar a inovação. Nesse caso, os líderes da tecnologia precisam de um quadro que garanta o uso comercial seguro e transparente, promova a inovação responsável, aborde a propriedade de dados e licenciamento, e diferencie entre “aberto” e “gratuito.”

Um conceito emergente, a Licença de Código Aberto Comercial, pode oferecer um caminho à frente, propondo acesso gratuito para uso não comercial, acesso licenciado para uso comercial e reconhecimento e respeito pela proveniência e propriedade dos dados.​​

Para se adaptar a essa nova realidade, a comunidade de código aberto deve desenvolver modelos de licenciamento de código aberto específicos para IA, formar parcerias público-privadas para financiar esses modelos e estabelecer padrões confiáveis para transparência, segurança e ética.

O código aberto mudou o mundo uma vez. O AI Gerativo está mudando novamente. Para preservar o espírito de abertura, devemos evoluir a letra da lei, reconhecendo as demandas únicas do AI enquanto abordamos os desafios de frente para criar um ecossistema inclusivo e sustentável.