Código de Conducta de la UE para la IA: Un Nuevo Enfoque para la Regulación

La Comisión Europea ha introducido recientemente un Código de Conducta que podría cambiar la forma en que operan las empresas de inteligencia artificial. No se trata solo de otra serie de directrices, sino de una revisión completa de la supervisión de la IA que incluso las empresas más grandes no pueden ignorar.

¿Qué lo hace diferente? Por primera vez, estamos viendo reglas concretas que podrían obligar a empresas como OpenAI y Google a abrir sus modelos para pruebas externas, un cambio fundamental en la forma en que se desarrollan y despliegan los sistemas de IA en Europa.

Los Nuevos Actores Clave en la Supervisión de la IA

La Comisión Europea ha creado un marco que se centra específicamente en lo que denominan “sistemas de IA con riesgo sistémico”. Estamos hablando de modelos entrenados con más de 10^25 FLOPs de potencia computacional, un umbral que GPT-4 ya ha superado.

Las empresas necesitarán informar sobre sus planes de entrenamiento de IA dos semanas antes de que even comiencen.

En el centro de este nuevo sistema se encuentran dos documentos clave: el Marco de Seguridad y Seguridad (SSF) y el Informe de Seguridad y Seguridad (SSR). El SSF es una hoja de ruta completa para gestionar los riesgos de la IA, que abarca desde la identificación inicial de riesgos hasta las medidas de seguridad continuas. Mientras que el SSR sirve como una herramienta de documentación detallada para cada modelo individual.

Pruebas Externas para Modelos de IA de Alto Riesgo

La Comisión está exigiendo pruebas externas para modelos de IA de alto riesgo. Esto no es una verificación de calidad interna estándar, sino que expertos independientes y la Oficina de IA de la UE están examinando estos sistemas de cerca.

Las implicaciones son grandes. Si eres OpenAI o Google, de repente necesitas dejar que expertos externos examinen tus sistemas. El borrador establece explícitamente que las empresas deben “garantizar pruebas de expertos independientes antes de la implementación”. Eso es un gran cambio en comparación con el enfoque actual de autorregulación.

Surge la pregunta: ¿Quién está calificado para probar estos sistemas de IA increíblemente complejos? La Oficina de IA de la UE está entrando en un territorio que nunca antes se ha cartografiado. Necesitarán expertos que puedan entender y evaluar la nueva tecnología de IA mientras mantienen la confidencialidad estricta sobre lo que descubran.

Este requisito de pruebas externas podría convertirse en obligatorio en toda la UE a través de un acto de implementación de la Comisión. Las empresas pueden tratar de demostrar la conformidad a través de “medios alternativos adecuados”, pero nadie está seguro de qué significa eso en la práctica.

La Protección de Derechos de Autor se Pone Seria

La UE también se está poniendo seria con respecto a los derechos de autor. Están obligando a los proveedores de IA a crear políticas claras sobre cómo manejan la propiedad intelectual.

La Comisión está respaldando el estándar robots.txt, un archivo simple que indica a los rastreadores web dónde pueden y no pueden ir. Si un sitio web dice “no” a través de robots.txt, las empresas de IA no pueden ignorarlo y entrenar en ese contenido de todos modos. Los motores de búsqueda no pueden penalizar a los sitios por usar estas exclusiones. Es un movimiento que devuelve el control a los creadores de contenido.

Las empresas de IA también tendrán que evitar activamente los sitios web de piratería cuando recopilen datos de entrenamiento. La UE incluso les está señalando su “Lista de Vigilancia de Falsificaciones y Piratería” como punto de partida.

Qué Significa Esto para el Futuro

La UE está creando un campo de juego completamente nuevo para el desarrollo de la IA. Estos requisitos afectarán todo, desde cómo las empresas planifican sus proyectos de IA hasta cómo recopilan sus datos de entrenamiento.

Cada gran empresa de IA se enfrenta ahora a una elección. Necesitan:

• Abrir sus modelos para pruebas externas
• Descubrir qué significan esos “medios alternativos” de conformidad
• O potencialmente limitar sus operaciones en el mercado de la UE

El calendario también es importante. Esta no es una regulación del futuro lejano, la Comisión se está moviendo rápidamente. Lograron reunir a unos 1.000 partes interesadas divididas en cuatro grupos de trabajo, todos trabajando en los detalles de cómo funcionará esto.

Para las empresas que construyen sistemas de IA, los días de “moverse rápido y descubrir las reglas después” podrían estar llegando a su fin. Necesitarán comenzar a pensar en estos requisitos ahora, no cuando se vuelvan obligatorios. Eso significa:

• Planificar auditorías externas en su cronograma de desarrollo
• Establecer sistemas de cumplimiento de derechos de autor robustos
• Construir marcos de documentación que coincidan con los requisitos de la UE

El impacto real de estas regulaciones se desarrollará en los próximos meses. Mientras que algunas empresas pueden buscar formas de evadir, otras integrarán estos requisitos en sus procesos de desarrollo. El marco de la UE podría influir en cómo se desarrolla la IA a nivel global, especialmente si otras regiones siguen con medidas de supervisión similares. A medida que estas reglas pasan del borrador a la implementación, la industria de la IA enfrenta su mayor cambio regulatorio hasta ahora.