Repensando el Código Abierto en la Era del AI Generativo

El modelo de código abierto – una ética de desarrollo de software en la que el código fuente se hace disponible gratuitamente para su redistribución o modificación – ha sido durante mucho tiempo un catalizador de innovación. El ideal nació en 1983 cuando Richard Stallman, un desarrollador de software, se frustró con la naturaleza de caja negra de su impresora de código cerrado que no funcionaba.

Su visión desencadenó el movimiento de software libre, allanando el camino para el ecosistema de código abierto que impulsa gran parte de la innovación de Internet y software de hoy en día.

Pero eso fue hace más de 40 años.

Hoy en día, el AI Generativo, con sus desafíos técnicos y éticos únicos, está redefiniendo el significado de “apertura”, exigiendo que revisitemos y replanteemos el paradigma de código abierto – no para abandonarlo, sino para adaptarlo.

IA y las Libertades de Código Abierto

Las cuatro libertades fundamentales del software de código abierto – la capacidad de ejecutar, estudiar, modificar y redistribuir cualquier código de software – están en conflicto con la naturaleza del AI generativo de varias maneras:

• Ejecutar: Los modelos de IA a menudo requieren infraestructuras y costos computacionales muy altos, lo que limita el acceso debido a las limitaciones de recursos.
• Estudiar y modificar: Los modelos de IA son increíblemente complejos, por lo que entender y alterarlos sin acceso al código y a los datos que lo informan es un desafío significativo.
• Redistribuir: Muchos modelos de IA restringen la redistribución por diseño, particularmente aquellos con pesos entrenados y conjuntos de datos propiedad de los proveedores de la plataforma.

La erosión de estos principios fundamentales no se debe a una intención maliciosa, sino a la complejidad y el costo de los sistemas de IA modernos. De hecho, los costos financieros de entrenar modelos de IA de vanguardia han aumentado dramáticamente en los últimos años – se informa que el entrenamiento de GPT-4 de OpenAI incurrió en costos de hasta $78 millones, excluyendo salarios del personal, con gastos totales superiores a $100 millones. ​

La Complejidad del “Código Abierto” de IA

Un modelo de IA verdaderamente abierto requeriría transparencia total del código fuente de inferencia, código fuente de entrenamiento, pesos del modelo y datos de entrenamiento. Sin embargo, muchos modelos etiquetados como “abiertos” solo liberan el código de inferencia o pesos parciales, mientras que otros ofrecen licencias limitadas o restringen el uso comercial por completo.

Esta apertura imparcial crea la ilusión de principios de código abierto, mientras que en la práctica se queda corta.

Considera que un análisis de la Open Source Initiative (OSI) encontró que varios modelos de lenguaje grande populares que afirman ser de código abierto – incluyendo Llama2 y Llama 3.x (desarrollados por Meta), Grok (X), Phi-2 (Microsoft) y Mixtral (Mistral AI) – son incompatibles con los principios de código abierto.

Desafíos de Sostenibilidad y Estimulación

La mayoría del software de código abierto se construyó sobre esfuerzos impulsados por voluntarios o financiados con subvenciones, en lugar de infraestructuras intensivas en computación y costosas. Los modelos de IA, por otro lado, son caros de entrenar y mantener, y los costos solo se espera que aumenten. El CEO de Anthropic, Dario Amodei, predice que eventualmente podría costar tanto como $100 mil millones entrenar un modelo de vanguardia.

Sin un modelo de financiación sostenible o una estructura de incentivos, los desarrolladores se enfrentan a la elección entre restringir el acceso a través de licencias de código cerrado o no comerciales, o arriesgarse a un colapso financiero.

Conceptos Erróneos sobre “Pesos Abiertos” y Licencias

La accesibilidad de los modelos de IA se ha vuelto cada vez más confusa, con muchas plataformas que se comercializan como “abiertas” mientras imponen restricciones que contradicen fundamentalmente los principios de código abierto. Esta “sleight-of-hand” se manifiesta de varias maneras:

• Los modelos etiquetados como “pesos abiertos” pueden prohibir el uso comercial por completo, manteniéndolos más como curiosidades académicas que como herramientas comerciales prácticas para el público para explorar y desarrollar.
• Algunos proveedores ofrecen acceso a modelos preentrenados pero guardan celosamente sus conjuntos de datos de entrenamiento y metodologías, lo que hace imposible reproducir o verificar sus hallazgos de manera significativa.
• Muchas plataformas imponen restricciones de redistribución que impiden a los desarrolladores construir o mejorar los modelos para sus comunidades, incluso si pueden acceder completamente al código.

En estos casos, “abierto para la investigación” es solo un eufemismo para “cerrado para los negocios”. El resultado es una forma deshonesta de bloqueo del proveedor, donde las organizaciones invierten tiempo y recursos en plataformas que parecen accesibles, solo para descubrir limitaciones críticas cuando intentan escalar o comercializar las aplicaciones.

La confusión resultante no solo frustra a los desarrolladores. Activamente socava la confianza en el ecosistema de IA. Establece expectativas poco realistas entre las partes interesadas que razonablemente asumen que el “IA abierto” es comparable a las comunidades de software de código abierto, donde se mantienen la transparencia, los derechos de modificación y la libertad comercial.

Retraso Legal

El avance rápido del GenAI ya está superando el desarrollo de marcos legales adecuados, creando una red compleja de desafíos de propiedad intelectual que comparten preocupaciones preexistentes.

El primer campo de batalla legal importante se centra en el uso de datos de entrenamiento. Los modelos de aprendizaje profundo extraen grandes conjuntos de datos de Internet, como imágenes y texto de páginas web públicamente disponibles. Esta recopilación masiva de datos ha encendido debates acalorados sobre derechos de propiedad intelectual. Las empresas de tecnología argumentan que sus sistemas de IA estudian y aprenden de materiales con derechos de autor para crear contenido nuevo y transformador. Los propietarios de derechos de autor, por otro lado, sostienen que estas empresas de IA copian ilegalmente sus obras, generando contenido competitivo que amenaza sus medios de vida.

La propiedad de obras derivadas generadas por IA representa otra ambigüedad legal. Nadie está seguro de cómo clasificar el contenido generado por IA, excepto la Oficina de Derechos de Autor de EE. UU., que establece que “si la IA genera completamente el contenido, no puede ser protegido por derechos de autor”.

La incertidumbre legal que rodea al GenAI – particularmente en cuanto a la infracción de derechos de autor, la propiedad de obras generadas por IA y el contenido no licenciado en los datos de entrenamiento – se vuelve aún más problemática a medida que emergen los modelos de IA fundamentales como herramientas de importancia geopolítica: Las naciones que compiten para desarrollar capacidades de IA superiores pueden estar menos inclinadas a restringir el acceso a los datos, lo que pone a los países con protecciones de PI más estrictas en desventaja.

Qué Debe Convertirse el Código Abierto en la Era del AI

El tren del GenAI ya ha salido de la estación y no muestra signos de ralentizar. Esperamos construir un futuro en el que el AI fomente en lugar de sofocar la innovación. En ese caso, los líderes tecnológicos necesitan un marco que garantice un uso comercial seguro y transparente, promueva la innovación responsable, aborde la propiedad de datos y la licencia, y diferencie entre “abierto” y “gratuito”.

Un concepto emergente, la Licencia de Código Abierto Comercial, puede ofrecer un camino hacia adelante al proponer acceso gratuito para uso no comercial, acceso con licencia para uso comercial y reconocimiento y respeto por la procedencia y la propiedad de los datos.​​

Para adaptarse a esta nueva realidad, la comunidad de código abierto debe desarrollar modelos de licencia de código abierto específicos para IA, formar asociaciones público-privadas para financiar estos modelos y establecer estándares de confianza para la transparencia, la seguridad y la ética.

El código abierto cambió el mundo una vez. El AI Generativo está cambiándolo de nuevo. Para preservar el espíritu de la apertura, debemos evolucionar la letra de su ley, reconociendo las demandas únicas del AI mientras abordamos los desafíos de frente para crear un ecosistema inclusivo y sostenible.