Ángulo de Anderson

Rechazo total: los grupos que consideran la IA un contaminante intolerable

Martin Anderson
Añade Unite.AI a tus fuentes preferidas en Google
AI-generated image, Z-Image Turbo via Krita Diffusion AI + Photoshop 2023 (no-AI): 'Interior. Photo of two burly US military guards, standing sentry with large automatic rifles, outside a huge and complex bank vault door, stock image. The bank vault door is made of thick steel and seems impenetrable'
Puntos claveLas prohibiciones de IA de tolerancia cero enfrentan una imposibilidad práctica debido…
Ver más
  • Las prohibiciones de IA de tolerancia cero enfrentan una imposibilidad práctica debido a la naturaleza generalizada y a menudo indetectable de la tecnología.
  • Organizaciones como Bandcamp y Comic-Con implementan prohibiciones como medidas prelegales en medio de panoramas económicos y de derechos de autor inciertos.
  • Las prohibiciones corporativas a ChatGPT provienen principalmente de temores sobre seguridad de propiedad intelectual, más que de preocupaciones éticas sobre los datos de entrenamiento.

La tolerancia cero hacia el contenido generado por IA resulta cada vez más atractiva ante las crecientes preocupaciones legales, éticas y de los usuarios sobre esta tecnología. Pero ¿es viable en la práctica apartarse de ella de esta manera?

 

Opinión  Quienes utilizan las redes sociales y otros foros de debate en línea quizá hayan observado últimamente que cada vez más comunidades, foros y organizaciones profesionales prohíben por completo el uso de la IA generativa, mientras su impacto económico se extiende más allá de los artistas y escritores cuyas protestas encendieron las preocupaciones actuales en 2023.

Con las consecuencias legales y económicas de la revolución de la IA todavía inciertas, las organizaciones reciben presiones tanto de los usuarios como de sus asesores jurídicos internos y se ven obligadas a fijar políticas mucho antes de que el panorama esté claro. Complica esta situación la creciente convicción de que retrasar la adopción podría situarlas en desventaja competitiva.

La IA como miasma

La decisión de prohibir es política y tiene consecuencias. Sin embargo, la capacidad de hacerlo entraña escollos tanto políticos como prácticos, ya que la historia de prohibir lo que la gente realmente desea es, en el mejor de los casos, desigual. Incluso erradicar aquello que nadie quiere exige un esfuerzo sostenido y a largo plazo.

Así, bajo la sombra de la historia de los luditas, tan a menudo malinterpretada, las comunidades y entidades que consideran intolerable cualquier rastro de IA suelen adoptar un tono defensivo al anunciar o debatir su prohibición.

Como los amish han comprobado durante los últimos siglos, puede resultar difícil mantener una postura de aislamiento frente a una tecnología verdaderamente influyente. En sentido estricto, por ejemplo, quienes siguen las reglas del veganismo no pueden ver películas rodadas en celuloide tradicional, ni siquiera hacerse una radiografía. Del mismo modo, evitar la fluoración en los países o ciudades que la aplican puede resultar difícil.

En la práctica, una tecnología popular y extendida se convierte en un fenómeno «atmosférico» que no se ajusta fácilmente a los límites que cada vez más grupos y organizaciones intentan establecer.

Medidas antes de la definición legal

Como ya se ha mencionado, las primeras batallas contra el avance de la IA se libraron en el ámbito menos determinista y más interpretativo de la IA generativa: el entretenimiento. Cuando el Sindicato de Actores de Cine y la Federación Estadounidense de Artistas de Televisión y Radio (SAG-AFTRA) luchó por proteger los derechos de sus miembros en 2023, finalmente pudo obtener algunas concesiones importantes.

Desde entonces ha habido muy pocas victorias tan decisivas en relación con la IA, y la lucha por aclarar el marco jurídico en diversos sectores apenas está comenzando. Por ejemplo, la mayoría de las nuevas leyes sobre los deepfakes, en particular las del Reino Unido y Estados Unidos, solo incluyen la IA dentro de una categoría más amplia de delitos, como las imágenes no consentidas, sean reales o falsas.

Tras la victoria de SAG-AFTRA, una serie de demandas sobre el uso de las obras de otros tipos de artistas sigue permanentemente en curso. Mientras tanto, muchos de los grupos descontentos implicados se adelantan al reconocimiento jurídico mediante normas propias.

Antes de profundizar en la lógica y los límites de una actitud de rechazo absoluto a la IA, veamos algunos casos en los que se aplica esta política.

Prohibiciones de IA con tolerancia cero

Una nota de disconformidad

Este mismo mes, Bandcamp se convirtió en la primera gran plataforma musical en línea en prohibir por completo el contenido de IA. El comunicado que anunció la prohibición también declaraba que «La música y el audio generados íntegramente o en una parte sustancial mediante IA no están permitidos en Bandcamp».

Como ocurre en casi todos los casos, esta restricción se ve obligada a dejar cierto margen por el mencionado efecto de «miasma» de los sistemas de IA ampliamente difundidos. En otro apartado del anuncio se precisa que la prohibición afecta a la música que* «parece haberse creado íntegramente mediante IA generativa o con una fuerte dependencia de ella». Es una limitación pragmática: en la mayoría de los ámbitos, al menos parte del contenido de IA generativa puede parecer completamente humano tanto a las personas como al sector, en constante evolución, de la detección de IA.

En la práctica, este es el patrón de la mayoría de las nuevas políticas de tolerancia cero que entran en vigor: en estas difíciles circunstancias, desconocer que se ha utilizado IA sí sirve de excusa.

Después de un incidente en el que una canción creada mediante IA arrasó en las listas suecas, IFPI Sweden, la organización nacional de la industria musical del país, prohibió incluir música generada por IA en las listas, aunque con la salvedad habitual. Declaró*: «Nuestra norma es que, si una canción está generada principalmente mediante IA, no tiene derecho a figurar en la lista de éxitos».

Aquí se vuelve a reconocer que la aspiración a prohibir la IA por completo no es práctica: la prohibición es tácita y total, pero aplicarla resulta, en la práctica, imposible.

El efecto en los cómics

Durante el último año, una oleada de prohibiciones del contenido de IA generativa ha recorrido las convenciones de cómics de Estados Unidos y otros países. La Comic-Con de San Diego, que en 2024 había impuesto restricciones comerciales al arte producido con IA, anunció este mes que prohíbe por completo el contenido de IA, según se informa, en respuesta a las protestas de los artistas.

De manera similar, en octubre del año pasado, la Comic-Con de Nueva York impuso una prohibición total de vender productos o contenido generados por IA. Su sitio oficial establece*:

«Se prohíbe poner a la venta en la Comic-Con de Nueva York productos, materiales o contenido creados íntegramente o en una parte sustancial mediante herramientas o algoritmos de inteligencia artificial generativa (’generados por IA‘), o que incorporen elementos generados por IA, incluidos, entre otros, obras de arte visual, imágenes, gráficos, animaciones y/o materiales».

Una vez más, la expresión «parte sustancial» tiene que reconocer la dificultad actual de identificar toda la procedencia creativa de una obra. Esto refleja la prohibición inicial de San Diego de comercializar los resultados de la IA, más que su posterior prohibición completa de ese contenido. Aun así, en la mayoría de los casos este enfoque priva al contenido de IA de su plataforma con bastante eficacia, aunque esas obras todavía podrían servir para atraer público hacia plataformas comerciales.

Además, la convención de cómics FanX Salt Lake adoptó en septiembre del año pasado una prohibición más tajante del contenido de IA. Su fundador y productor, Dan Farr, comentó:

«Si los clientes vienen y compran una obra sin darse cuenta de que se ha utilizado IA generativa para crearla, pueden pagar mucho dinero por ella sin saber que no es algo tan valioso».

Antisocial

Muchas comunidades en línea también han adoptado la tolerancia cero hacia el contenido generado por IA. De hecho, es uno de los aspectos más visibles del rechazo a esta tecnología, y fue la creciente frecuencia de esas prohibiciones lo que me llevó a interesarme por el tema:

Una norma típica contra la IA en Facebook. Fuente: https://www.facebook.com/groups/1416546745305397/posts/3754074121552636/

Una norma típica contra la IA en Facebook. Fuente

Reddit se ha visto especialmente afectado. Los moderadores de varios subreddits grandes suelen prohibir todas las imágenes, el arte y las formas de expresión textual creadas con IA, como la ficción y la programación, cuando esas publicaciones empiezan a inundar los foros y sobrecargan sus limitados recursos de moderación humana.

Un ejemplo muy temprano, de 2022, fue el subreddit r/Dune, donde unos 250.000 aficionados votaron a favor de prohibir por completo el arte generado por IA después de verse desbordados por esas imágenes. Los moderadores señalaron entonces:

«Reconocemos que muchas de estas obras son agradables de ver y que la tecnología es fascinante, pero técnicamente se consideran contenido de poco esfuerzo, sobre todo en comparación con el arte original, ’hecho por humanos‘, al que queremos dar prioridad en adelante».

Desde entonces, numerosos subreddits, desde r/lego hasta r/DataHoarder, han declarado igualmente que eliminarán en cuanto lo detecten cualquier contenido creado, aunque sea parcialmente, con IA. Como siempre, esto se aplica al menos cuando resulta reconocible.

En Facebook aparecen con frecuencia prohibiciones similares. Sin embargo, su empresa matriz, Meta, es una de las desarrolladoras de IA más avanzadas del mundo, mientras que Reddit es una fuente continua de datos humanos muy disputada y codiciada. Por ello, estas prohibiciones suelen causar menos controversia en Facebook.

Sorprendentemente, Meta tarda en ponerse al día con el sentir general del público sobre la IA. Hace un año, por ejemplo, la empresa dio marcha atrás de forma llamativa en un experimento con agentes de IA que publicaban en distintas cronologías, debido a las reacciones adversas de los usuarios.

Prohibiciones de ChatGPT para evitar filtraciones de información

Una categoría particular de prohibición «absoluta» de IA es la frecuente prohibición del uso de ChatGPT en entornos empresariales o sensibles. En este sentido, lo mismo se aplica en buena medida a cualquier modelo de lenguaje en la nube al que se acceda mediante una API, como Claude o Gemini.

Sin embargo, estas prohibiciones no suelen estar motivadas por preocupaciones liberales sobre la explotación de los datos de entrenamiento, sino por el temor a que OpenAI termine almacenando, procesando o incluso explotando la propiedad intelectual confidencial de la empresa revelada durante las conversaciones de sus usuarios.

Aunque los departamentos jurídicos pueden respaldar o incluso promover la prohibición empresarial de plataformas similares a ChatGPT, también es probable que analicen si utilizar datos de la web abierta para entrenar sistemas comerciales podría exponer a la empresa o a sus clientes a futuras responsabilidades legales, sobre todo si los litigios en curso contra OpenAI o entidades similares desembocan en sentencias importantes.

Entre los ejemplos de prohibiciones de ChatGPT† figura una oleada de prohibiciones como reacción en 2023 por parte de Apple (AAPL ), Amazon (AMZN ), Spotify y Wells Fargo, entre muchas otras. Ese mismo año, una encuesta de Cisco reveló que el 27% de las organizaciones consultadas había impuesto prohibiciones similares, no específicamente a ChatGPT, sino al uso de IA generativa en general.

En 2024, otra encuesta concluyó que el 65% de las 20 principales empresas farmacéuticas había prohibido a sus empleados utilizar ChatGPT.

Está claro que muchas, si no todas, las empresas aquí mencionadas probablemente tratarán de beneficiarse de la IA de formas más acordes con sus intereses. También es probable que muchas mantengan o desarrollen otros productos basados en IA para uso interno, o incluso productos comerciales mediante API que protejan mejor la propiedad intelectual que OpenAI.

Muchos gobiernos que promueven firmemente la IA también prohíben ChatGPT. Aunque algunos, como Cuba y Corea del Norte, son candidatos evidentes a este tipo de prohibición, China, considerada actualmente un faro de la revolución de la IA, lo prohíbe en el ámbito gubernamental, presumiblemente para favorecer alternativas nacionales.

Conclusión: sobre la tolerancia cero

Una inquietud ante cualquier tendencia a las prohibiciones «absolutas» de IA, además del reto de identificar ese contenido, es si una prohibición intransigente resulta realmente eficaz. Es fácil malinterpretar qué es en realidad la tolerancia cero, qué puede lograr y en qué circunstancias, bastante limitadas, puede alcanzar sus objetivos.

Por ejemplo, Nueva York, quizá la ciudad más asociada con este término, pudo recuperarse del profundo deterioro causado por la delincuencia en las décadas de 1970 y 1980 mediante la aplicación gradual y sostenida de la teoría psicológica de las «ventanas rotas». Esta sostiene que, por pobre o acomodado que sea un barrio, la presencia de una sola ventana rota tenderá a provocar más ventanas rotas y, finalmente, un aumento de otros delitos más graves, porque la persistencia de la primera ventana rota sugiere que las autoridades no están vigilando o no se preocupan.

Por tanto, se cree que la tolerancia cero hacia el delito que sirve de «semilla», como romper una ventana, aporta beneficios preventivos más amplios, ya que esa «entropía delictiva» nunca consigue afianzarse. Al ocuparse de los pequeños problemas, como la basura y las ventanas rotas, que son baratos de resolver, los mayores, cuya solución habría costado más, se resuelven por sí solos.

Sin embargo, al aplicarse, esta teoría, a veces criticada por racista, puede parecer autoritarismo extremo o incluso fascismo:

Haz clic para reproducir. Fragmento de la única película de formación que realizó John Ford, «OSS – Undercover Training», un ejemplo de tolerancia cero aparentemente obsesiva en un contexto ficticio que reproduce la cultura de las potencias del Eje durante la Segunda Guerra Mundial. Fuente

En cambio, el público suele equiparar la tolerancia cero con medidas «severas pero necesarias», como las leyes inflexibles de la mayoría de los países sobre las penas por causar daño a menores. Es decir, reglas claras para el bien común, plasmadas en leyes punitivas que suscitan poco debate o negociación.

En realidad, la tolerancia cero se diseñó para lograr la renovación urbana con un presupuesto limitado, haciendo pensar que en el espacio público había más recursos de los que realmente existían entre bastidores. No es un modelo especialmente adecuado para devolver al genio de la IA a la botella.

En la práctica, la IA generativa ya está tan extendida que los datos que recibes en etapas posteriores y que parecen libres de IA quizá ya le deban algo, aunque solo sea un códec mejorado con IA en un vídeo auténtico, no falsificado, que tú mismo grabaste, subiste a YouTube y publicaste en tu red social favorita. Si la IA llega realmente a convertirse en una especie de «gas» cultural, parece destinada a desafiar los límites claros y las soluciones binarias, como una prohibición de la IA.

 

* El énfasis es mío.

† En este sentido, podemos considerarlo representativo de esta clase de grandes modelos de lenguaje, en lugar de un producto concreto en exclusiva.

Publicado por primera vez el jueves 29 de enero de 2026

Redactor de aprendizaje automático, especialista en síntesis de imágenes humanas. Anterior jefe de contenido de investigación en Metaphysic.ai, hasta su disolución en Brahma.ai de DNEG.
Sitio web: martinanderson.ai
Contacto: martin@martinanderson.ai