Recoyido Total: Los Grupos que Tratan a la IA como un Contaminante Inaceptable

‘Tolerancia cero’ hacia el contenido generado por IA es una opción cada vez más atractiva frente a las crecientes preocupaciones legales, éticas y de base de usuarios en torno a la IA; pero ¿es este tipo de ‘optar por salir’ una proposición práctica?

Opinión Cualquiera que use las redes sociales y otros tipos de foros de discusión en línea puede haber notado, últimamente, un creciente número de comunidades, foros y organizaciones profesionales que prohíben por completo el uso de IA generativa, a medida que el impacto económico de la tecnología se extiende más allá de los artistas y escritores cuyas protestas encendieron las preocupaciones actuales en 2023.

Con las consecuencias legales y económicas de la revolución de la IA todavía inciertas, las organizaciones que enfrentan presión de parte de los usuarios y del asesoramiento legal interno se ven obligadas a decidir políticas mucho antes de que se clarifique la imagen completa – una situación complicada por la creciente creencia de que la adopción demorada podría dejarlos en desventaja competitiva.

IA como Miasma

La decisión de prohibir es una decisión política, con consecuencias; la capacidad de prohibir, sin embargo, conlleva tanto peligros políticos como prácticos, ya que la historia de prohibir cosas que la gente realmente quiere es muy desigual en el mejor de los casos; y incluso erradicar las cosas que nadie quiere requiere un esfuerzo a largo plazo y continuo.

Así, atormentado por la historia muy malentendida de los ludditas, esas comunidades y entidades que tratan cualquier rastro de IA como completamente inaceptable a menudo adoptan un tono defensivo al anunciar o discutir una prohibición de IA.

Al igual que los amish han encontrado a lo largo de los últimos siglos, una postura reclusiva contra una tecnología realmente impactante puede ser difícil de mantener; estrictamente hablando, por ejemplo, aquellos que se adhieren a las reglas del veganismo no pueden ver películas filmadas en celuloide tradicional, o incluso tener un rayo X. De manera similar, optar por no fluorizar en países o ciudades que adoptan esta práctica puede ser difícil.

Efectivamente, una tecnología omnipresente y popular es un fenómeno ‘atmosférico’ que no permite fácilmente los límites que actualmente están estableciendo un creciente número de grupos y organizaciones.

Medidas Prelegales

Como se mencionó anteriormente, las primeras batallas contra la intromisión de la IA se libraron en el sector menos determinista y más interpretativo de la genIA – el entretenimiento. Cuando el Sindicato de Actores de Pantalla de Estados Unidos – Federación de Artistas de Televisión y Radio (SAG-AFTRA) luchó por la protección de los derechos de sus miembros en 2023, finalmente pudo ganar algunas concesiones notables.

Ha habido muy pocas victorias tan decisivas desde entonces, en cuanto a la IA – y la batalla por la claridad legal en una serie de sectores apenas comienza. Por ejemplo, la mayoría de la nueva legislación sobre deepfakes, notablemente de Reino Unido y Estados Unidos, solo incluye la IA en una categoría más amplia de delito (como imágenes no consensuadas, reales o falsas).

Calurosamente tras la victoria de SAG-AFTRA, un conjunto de demandas sobre el uso del trabajo de otros tipos de artistas siempre está en progreso. Mientras tanto, muchos de los grupos descontentos involucrados están anticipando la ratificación legal con reglas locales.

Antes de considerar más a fondo la lógica y las limitaciones de una actitud ‘totalmente intolerante’ hacia la IA, veamos algunos de los casos en los que se está aplicando este tipo de política.

Prohibiciones de IA de Tolerancia Cero

Una Nota de Disentimiento

Este mes, Bandcamp se convirtió en la primera plataforma de música en línea importante en prohibir por completo el contenido de IA. La prohibición se anunció en un comunicado que también declaró ‘La música y el audio que se generan en su totalidad o en parte sustancial por IA no están permitidos en Bandcamp’.

Esta restricción, como en casi todos los casos, se ve obligada a apostar un poco debido al mencionado efecto ‘miasma’ de los sistemas de IA ampliamente difundidos. En otra parte del anuncio, se establece que la música que* ‘parece ser hecha enteramente o con gran dependencia de IA generativa’ es el objetivo de la prohibición – una limitación pragmática, ya que, en la mayoría de los dominios, al menos algún contenido de genIA es capaz de parecer completamente hecho por humanos, tanto para las personas como para el sector de detección de IA en constante evolución.

Efectivamente, este es el modelo para la mayoría de las nuevas políticas de ‘tolerancia cero’: que la ignorancia de la IA es una excusa, en estas circunstancias desafiantes.

Después de un incidente en el que una pista de música creada por IA arrasó en las listas de éxitos de Suecia, IFPI Suecia, la organización de la industria musical nacional sueca, prohibió la música generada por IA de ser incluida en las listas – aunque con la cautela habitual, estableciendo* ‘Nuestra regla es que si es una canción que es principalmente generada por IA, no tiene derecho a estar en la lista principal’.

Nuevamente, el deseo de una prohibición total de la IA se reconoce aquí como impráctico; la prohibición es tácita y total, pero la implementación es efectivamente imposible.

Efecto Cómico

Una ola de prohibición contra el contenido de genIA ha barrido la escena de la convención de cómics en Estados Unidos y más allá, en el último año. La San Diego Comic-Con, que en 2024 había establecido restricciones comerciales sobre el arte producido por IA, ha anunciado este mes que prohibirá por completo el contenido de IA, presuntamente en respuesta a las protestas de los artistas.

De manera similar, en octubre del año pasado, la New York Comic-Con aplicó una prohibición total sobre la venta de productos o contenido generado por IA, con el sitio oficial estableciendo*:

‘El producto, material o contenido creado, en su totalidad o en parte sustancial, utilizando herramientas o algoritmos de IA generativa (“IA generada”) o incorporando elementos generados por IA, incluyendo pero no limitado a obra de arte visual, imágenes o gráficos, animaciones y / o materiales, están prohibidos para ser puestos a la venta en la New York Comic Con.’

Una vez más, vemos que en ‘parte sustancial’, la redacción debe reconocer la dificultad de identificar la total procedencia creativa de cualquier obra, estos días. Esto refleja la prohibición inicial de San Diego sobre comercializar la salida de IA, en lugar de su posterior prohibición total de contenido de IA.

Dicho esto, este enfoque es una especie de ‘desplataformización’ efectiva del contenido de IA, en la mayoría de los casos (aunque tal obra podría seguir siendo utilizada como alimentadora de plataformas comercializadas).

Además, la convención de cómics FanX Salt Lake instituyó una prohibición más decisiva sobre el contenido de IA, en septiembre del año pasado, con el fundador y productor Dan Farr comentando:

‘Si los clientes vienen y compran una pieza de arte y no se dan cuenta de que se utilizó IA generativa para crearla, pueden pagar mucho dinero por ella, sin darse cuenta de que no es algo tan valioso.’

Anti-Social

Muchas comunidades en línea también han adoptado una tolerancia cero hacia el contenido generado por IA. De hecho, esta es una de las facetas más públicas de la intolerancia hacia la IA, y fue la creciente frecuencia de estas prohibiciones lo que me llevó a prestar atención al tema:

Un edicto anti-IA típico de Facebook. Fuente

Reddit ha sido especialmente afectado, con moderadores de varios subreddits grandes que a menudo prohíben todas las imágenes, arte o formas de texto creadas por IA (como ficción y programación), una vez que esos mensajes comenzaron a inundar sus foros y a sobrecargar los recursos de moderación humanos limitados.

Un ejemplo muy temprano, de 2022, fue el subreddit r/Dune, donde alrededor de 250,000 fanáticos votaron para prohibir por completo el arte generado por IA, después de ser abrumados con imágenes hechas por IA. Los moderadores del sub en ese momento observaron:

‘Reconocemos que muchas de estas piezas son interesantes de ver, y la tecnología es fascinante, pero técnicamente califica como contenido de poco esfuerzo – especialmente en comparación con el arte original, “hecho por humanos”, que nos gustaría priorizar en el futuro.’

Desde entonces, numerosos subreddits (desde r/lego hasta r/DataHoarder) han declarado de manera similar que cualquier contenido incluso parcialmente hecho por IA será eliminado a la vista – al menos, como siempre, donde sea reconocible.

Prohibiciones similares aparecen con frecuencia en Facebook. Sin embargo, dado que Meta, la empresa matriz de Facebook, es uno de los desarrolladores de vanguardia de IA en el mundo, mientras que Reddit es más una fuente muy disputada y buscada de datos humanos en curso, estas prohibiciones tienden a causar menos controversia.

Sorprendentemente, le toma a Meta un tiempo atrapar el sentimiento público generalizado sobre la IA – hace un año, por ejemplo, la empresa retrocedió de un experimento con agentes de IA que publicaban en líneas de tiempo diversas, debido a reacciones adversas de los usuarios.

Prohibiciones de Exfiltración de ChatGPT

Una categoría singular de ‘prohibiciones absolutas’ de IA es la frecuente prohibición contra el uso de ChatGPT en entornos corporativos o sensibles (y en este sentido, lo mismo se aplica a cualquier modelo de lenguaje basado en la nube, como Claude o Gemini).

Sin embargo, estas prohibiciones suelen estar inspiradas no por preocupaciones liberales sobre la explotación de datos de entrenamiento, sino por temores de que OpenAI termine almacenando, procesando o incluso explotando la propiedad intelectual sensible de la empresa divulgada durante las conversaciones del cliente.

Mientras que los departamentos legales pueden apoyar o incluso iniciar prohibiciones corporativas sobre plataformas como ChatGPT, también es probable que consideren si el uso de datos de la web abierta para entrenar sistemas comerciales podría exponer a la empresa o a sus clientes a pasivas futuras – particularmente si la litigación en curso contra OpenAI o entidades similares resultara en juicios significativos.

Ejemplos de prohibiciones de ChatGPT^† incluyen una ola de prohibiciones reaccionarias en 2023 de Apple, Amazon, Spotify y Wells Fargo, entre muchos otros. Ese mismo año, una encuesta de Cisco encontró que el 27% de las organizaciones encuestadas habían instituido prohibiciones similares – no sobre ChatGPT específicamente, sino sobre el uso de la IA generativa en general.

En 2024, otra encuesta encontró que el 65% de las 20 principales empresas farmacéuticas habían prohibido a los empleados el uso de ChatGPT.

Es claro que muchas, si no todas, de las empresas mencionadas aquí probablemente buscarán beneficiarse de la IA de maneras que se adapten mejor a sus intereses; y que muchas probablemente estén manteniendo o desarrollando otros productos de IA para uso interno – o incluso productos de API comerciales con mejor protección de propiedad intelectual que la que OpenAI puede ofrecer.

Muchos gobiernos que son grandes partidarios de la IA también prohíben ChatGPT. Aunque algunos de estos, como Cuba y Corea del Norte, son candidatos obvios para este tipo de prohibición, China, actualmente considerada la luz líder de la revolución de la IA, prohíbe ChatGPT a nivel gubernamental – presumiblemente en favor de alternativas caseras.

Conclusión: Sobre la Tolerancia Cero

Una preocupación sobre cualquier tendencia hacia ‘prohibiciones absolutas’ de IA (además del desafío de identificar el contenido de IA), es si la prohibición intransigente es realmente efectiva. De hecho, es fácil malentender qué es realmente la ‘tolerancia cero’; qué puede lograr; y las circunstancias bastante limitadas en las que puede alcanzar sus objetivos.

Por ejemplo, la ciudad de Nueva York, quizás la más asociada con el término ‘tolerancia cero’, pudo levantarse de su nadir delictivo en las décadas de 1970 y 1980 a través de la aplicación gradual y continua de la teoría psicológica de las ‘ventanas rotas’, que establece que no importa cuán pobre o acomodada sea un vecindario, la presencia de una sola ventana rota tenderá a llevar a más ventanas rotas – y una eventual escalada de otros tipos de delitos más graves, ya que la presencia continua de la ventana rota inicial sugiere que las autoridades no están vigilando o no se preocupan.

Por lo tanto, una actitud de ‘tolerancia cero’ hacia el ‘delito de semilla’ de romper una ventana se cree que tiene beneficios upstream, ya que esta ‘entropía criminal’ nunca puede tener un punto de apoyo; de esta manera, al atender a las pequeñas cosas (como la basura y las ventanas rotas, que no son problemas caros de resolver), las cosas más grandes (que habrían costado más resolver) se cuidan solas.

Llevada a cabo, sin embargo, esta teoría (a veces criticada como racista) puede leerse como autoritarismo extremo, o incluso fascismo:

Haga clic para reproducir. De la única película de entrenamiento que John Ford hizo, ‘OSS – Undercover Training’, un ejemplo de tolerancia cero aparentemente obsesiva en un contexto de cultura del eje ficticio de la Segunda Guerra Mundial. Fuente

En lugar de eso, ‘tolerancia cero’ a menudo se equipara en la mente del público con ‘acción severa pero necesaria’, como las leyes intransigentes que la mayoría de las naciones tienen con respecto a las penas por dañar a menores – es decir, reglas claras para el bien público, concretizadas en leyes punitivas que inspiran poco debate o compromiso.

En verdad, la ZT fue diseñada para lograr la renovación urbana con un presupuesto, sugiriendo mayores recursos en un ámbito público de los que realmente existían detrás de escena; no un caso de uso particularmente aplicable para poner al genio de la IA de vuelta en la botella.

Y en la práctica, la IA generativa ya es tan omnipresente que sus datos aparentemente libres de IA pueden deber algo a ella – incluso si es un código de video mejorado por IA en un video no falso que usted hizo, presentó a YouTube y publicó en su canal de redes sociales favorito. Si la IA se convierte realmente en una especie de ‘gas’ cultural, parece destinada a desafiar fronteras claras o soluciones binarias como una ‘prohibición de IA’.

* Énfasis mío.

^† Que podemos considerar representativo de esta clase de LLM, en lugar de un producto exclusivo, en este sentido.

Publicado por primera vez el jueves 29 de enero de 2026