Rebote Total: Los Grupos que Tratan a la IA como un Contaminante Inaceptable

‘La tolerancia cero’ hacia el contenido generado por IA es una opción cada vez más atractiva ante el creciente número de preocupaciones legales, éticas y de la base de usuarios en torno a la IA; pero ¿es este tipo de ‘optar por salir’ una proposición práctica?

Opinión Cualquiera que utilice las redes sociales y otros tipos de foros de discusión en línea puede haber notado, últimamente, un número creciente de comunidades, foros y organizaciones profesionales que prohíben completamente el uso de IA generativa, a medida que el impacto económico de la tecnología se extiende más allá de los artistas y escritores cuyas protestas encendieron las preocupaciones actuales en 2023.

Con las consecuencias legales y económicas de la revolución de la IA todavía inciertas, las organizaciones que enfrentan presión de parte de los usuarios y de sus asesores legales internos se ven obligadas a decidir políticas mucho antes de que se clarifique la situación completa – una situación complicada por la creciente creencia de que la adopción demorada podría dejarlas en desventaja competitiva.

IA como Miasma

La decisión de prohibir es una decisión política, con consecuencias; la capacidad de prohibir, sin embargo, conlleva tanto aspectos políticos como prácticos, ya que la historia de prohibir cosas que la gente realmente quiere es muy complicada; y incluso erradicar las cosas que nadie quiere requiere un esfuerzo continuo y a largo plazo.

Así, obsesionados por la historia muy malentendida de los ludditas, aquellas comunidades y entidades que tratan cualquier rastro de IA como completamente inaceptable a menudo adoptan un tono defensivo al anunciar o discutir una prohibición de IA.

Al igual que los amish han encontrado a lo largo de los últimos siglos, una postura reclusiva contra una tecnología verdaderamente impactante puede ser difícil de mantener; estrictamente hablando, por ejemplo, aquellos que se adhieren a las reglas del veganismo no pueden ver películas filmadas en celuloide tradicional, o incluso tener un rayo x. De manera similar, optar por no fluorizar en países o ciudades que adoptan esta práctica puede ser difícil.

En efecto, una tecnología popular y omnipresente es un fenómeno ‘atmosférico’ que no permite fácilmente los límites que actualmente están estableciendo un número creciente de grupos y organizaciones.

Medidas Prelegales

Como se mencionó anteriormente, las primeras batallas contra la intromisión de la IA se libraron en el sector menos determinista y más interpretativo de la IA generativa – el entretenimiento. Cuando el Sindicato de Actores de Pantalla de Estados Unidos – Federación Estadounidense de Artistas de Radio y Televisión (SAG-AFTRA) luchó por la protección de los derechos de sus miembros en 2023, finalmente pudo ganar algunas concesiones notables.

Ha habido muy pocas victorias tan decisivas desde entonces, en cuanto a la IA – y la batalla por la claridad legal en una variedad de sectores apenas comienza. Por ejemplo, la mayoría de la nueva legislación sobre deepfakes, notablemente de Reino Unido y Estados Unidos, solo incluye la IA en una categoría más amplia de delitos (como imágenes no consensuadas, reales o falsas).

Inmediatamente después de la victoria de SAG-AFTRA, una serie de demandas sobre el uso del trabajo de otros tipos de artistas siempre están en progreso. Mientras tanto, muchos de los grupos afectados involucrados están anticipando la ratificación legal con reglas locales.

Antes de considerar más a fondo la lógica y las limitaciones de una actitud ‘totalmente intolerante’ hacia la IA, veamos algunos de los casos en los que se está aplicando este tipo de política.

Prohibiciones de IA de Tolerancia Cero

Una Nota de Disentimiento

Este mes, Bandcamp se convirtió en la primera plataforma de música en línea importante en prohibir completamente el contenido de IA. La prohibición se anunció en un comunicado que también declaró ‘La música y el audio que se generan completamente o en parte sustancial por IA no están permitidos en Bandcamp’.

Esta restricción, como en casi todos los casos, se ve obligada a apostar un poco debido al mencionado efecto ‘miasma’ de los sistemas de IA ampliamente difundidos. En otra parte del anuncio, se establece que la música que* ‘parece ser hecha completamente o con una gran dependencia de la IA generativa’ es el objetivo de la prohibición – una limitación pragmática, ya que en la mayoría de los dominios, al menos algún contenido de IA generativa es capaz de parecer completamente hecho por humanos, tanto para las personas como para el sector de detección de IA en constante evolución.

En efecto, este es el modelo para la mayoría de las nuevas políticas de ‘tolerancia cero’ que están entrando en vigor: que la ignorancia de la IA es una excusa, en estas circunstancias desafiantes.

Después de un incidente en el que una pista de música creada por IA asaltó las listas de éxitos suecas, IFPI Suecia, la organización de la industria musical nacional sueca, prohibió la música generada por IA de ser incluida en las listas – aunque con la advertencia habitual, que establece* ‘Nuestra regla es que si es una canción que es principalmente generada por IA, no tiene derecho a estar en la lista de éxitos’.

Nuevamente, el deseo de una prohibición total de la IA se reconoce aquí como impráctico; la prohibición es tácita y total, pero la implementación es efectivamente imposible.

Efecto Cómico

Una ola de prohibición contra el contenido de IA generativa ha barrido la escena de la convención de cómics en Estados Unidos y más allá, en el último año. La Comic-Con de San Diego, que en 2024 había establecido restricciones comerciales sobre el arte producido por IA, ha anunciado este mes que prohibirá completamente el contenido de IA, presuntamente en respuesta a las protestas de los artistas.

De manera similar, en octubre del año pasado, la Comic-Con de Nueva York aplicó una prohibición total de la venta de productos o contenido generados por IA, con el sitio web oficial estableciendo*:

‘El producto, material o contenido creado, en su totalidad o en parte sustancial, utilizando herramientas o algoritmos de inteligencia artificial generativa (“IA generada”) o incorporando elementos generados por IA, incluyendo pero no limitado a obras de arte visuales, imágenes o gráficos, animaciones y/o materiales, están prohibidos para ser puestos a la venta en la Comic-Con de Nueva York.’

Una vez más, vemos que en ‘parte sustancial’, la redacción debe reconocer la dificultad de identificar la total procedencia creativa de cualquier obra, en estos días. Esto refleja la prohibición inicial de San Diego sobre la comercialización de la salida de IA, en lugar de su posterior prohibición total del contenido de IA. Dicho esto, este enfoque es una especie de ‘desplataformización’ efectiva del contenido de IA, en la mayoría de los casos (aunque este trabajo podría seguir siendo utilizado como alimentador para plataformas comercializadas).

Además, la convención de cómics FanX Salt Lake instituyó una prohibición más decisiva sobre el contenido de IA, en septiembre del año pasado, con el fundador y productor Dan Farr comentando*:

‘Si los clientes vienen y compran una pieza de arte y no se dan cuenta de que se utilizó IA generativa para crearla, pueden pagar mucho dinero por ella, sin darse cuenta de que no es algo tan valioso.’

Anti-Social

Muchas comunidades en línea también han adoptado una tolerancia cero hacia el contenido generado por IA. De hecho, este es uno de los aspectos más visibles de la intolerancia hacia la IA, y fue la creciente frecuencia de estas prohibiciones lo que llamó mi atención sobre el tema*:

Un edicto anti-IA típico de Facebook. Fuente

Reddit ha sido especialmente afectado, con moderadores de varios subreddits grandes que a menudo prohíben todas las imágenes, arte o formas de texto creadas por IA (como la ficción y la programación), una vez que estos mensajes comenzaron a inundar sus foros y a sobrecargar los recursos de moderación humanos limitados.

Un ejemplo muy temprano, de 2022, fue el subreddit de Dune, donde alrededor de 250,000 fanáticos votaron para prohibir completamente el arte generado por IA, después de ser abrumados con imágenes hechas por IA. Los moderadores del subreddit notaron en ese momento*:

‘Reconocemos que muchas de estas piezas son interesantes de ver, y la tecnología es fascinante, pero técnicamente califica como contenido de poco esfuerzo – especialmente en comparación con el arte hecho por humanos, que nos gustaría priorizar en el futuro.’

Desde entonces, numerosos subreddits (desde r/lego hasta r/DataHoarder) han declarado de manera similar que cualquier contenido incluso parcialmente hecho por IA será eliminado a la vista – al menos, como siempre, donde sea reconocible.

Prohibiciones similares aparecen con frecuencia en Facebook. Sin embargo, como Meta, la empresa matriz de Facebook, es una de las principales desarrolladoras de IA del mundo, mientras que Reddit es más bien una fuente muy disputada y buscada de datos humanos en curso, estas prohibiciones tienden a causar menos controversia.

Sorprendentemente, a Meta le toma un tiempo ponerse al día con la opinión pública general sobre la IA – hace un año, por ejemplo, la empresa hizo una retirada audaz de un experimento con agentes de IA que publicaban en diferentes líneas de tiempo, debido a reacciones adversas de los usuarios.

Prohibiciones de Exfiltración de ChatGPT

Una categoría singular de ‘prohibiciones absolutas’ de IA es la frecuente prohibición del uso de ChatGPT en entornos corporativos o sensibles (y en este sentido, lo mismo se aplica a cualquier modelo de lenguaje basado en la nube, como Claude o Gemini).

Sin embargo, estas prohibiciones suelen estar inspiradas no por preocupaciones liberales sobre la explotación de datos de entrenamiento, sino por temores de que OpenAI termine almacenando, procesando o incluso explotando datos de la empresa sensibles divulgados durante las conversaciones del cliente.

Mientras que los departamentos legales pueden apoyar o incluso iniciar prohibiciones corporativas sobre plataformas como ChatGPT, también es probable que consideren si el uso de datos de la web abierta para entrenar sistemas comerciales podría exponer a la empresa o a sus clientes a posibles responsabilidades legales en el futuro – particularmente si la litigación en curso contra OpenAI o entidades similares resultara en juicios importantes.

Ejemplos de prohibiciones de ChatGPT^† incluyen una ola de prohibiciones reaccionarias en 2023 de Apple, Amazon, Spotify y Wells Fargo, entre muchos otros. Ese mismo año, un estudio de Cisco encontró que el 27% de las organizaciones encuestadas habían instituido prohibiciones similares – no sobre ChatGPT específicamente, sino sobre el uso de IA generativa en general.

En 2024, otro estudio encontró que el 65% de las 20 principales empresas farmacéuticas habían prohibido a los empleados usar ChatGPT.

Está claro que muchas, si no todas, de las empresas mencionadas aquí probablemente buscarán beneficiarse de la IA de maneras que se adapten mejor a sus intereses; y que muchas probablemente estén manteniendo o desarrollando otros productos de IA para uso interno – o incluso productos comerciales de API con una mejor protección de la propiedad intelectual que la que puede ofrecer OpenAI.

Muchos gobiernos que son grandes defensores de la IA también prohíben ChatGPT. Aunque algunos de estos, como Cuba y Corea del Norte, son candidatos obvios para este tipo de prohibición, China, actualmente considerada la luz líder de la revolución de la IA, prohíbe ChatGPT a nivel gubernamental – presumiblemente en favor de alternativas nacionales.

Conclusión: Sobre la Tolerancia Cero

Una preocupación sobre cualquier tendencia hacia ‘prohibiciones absolutas’ de IA (además del desafío de identificar el contenido de IA), es si la prohibición intransigente es realmente efectiva. De hecho, es fácil malentender qué es realmente la ‘tolerancia cero’; qué puede lograr; y las circunstancias bastante limitadas en las que puede alcanzar sus objetivos.

Por ejemplo, la ciudad de Nueva York, quizás la más asociada con el término ‘tolerancia cero’, pudo elevarse de su nadir delictivo en la década de 1970 y 1980 a través de la aplicación gradual y continua de la teoría psicológica de las ‘ventanas rotas’, que sostiene que no importa cuán pobre o acomodada sea un barrio, la presencia de una sola ventana rota tenderá a llevar a más ventanas rotas – y una eventual escalada de otros tipos de delitos más graves, ya que la presencia continua de la ventana rota inicial sugiere que las autoridades no están vigilando o no les importa.

Por lo tanto, una actitud de ‘tolerancia cero’ hacia el ‘delito inicial’ de romper una ventana se cree que tiene beneficios upstream, ya que esta ‘entropía delictiva’ nunca puede tener un punto de apoyo; de esta manera, al atender a las pequeñas cosas (como la basura y las ventanas rotas, que no son problemas caros de resolver), las cosas más grandes (que habrían costado más resolver) se cuidan solas.

Llevada a cabo, sin embargo, esta teoría (a veces criticada como racista) puede parecer un autoritarismo extremo, o incluso fascismo*:

Haga clic para reproducir. De la única película de entrenamiento que John Ford jamás hizo, ‘OSS – Undercover Training’, un ejemplo de aparente tolerancia cero obsesiva en un contexto de cultura del eje ficticio de la Segunda Guerra Mundial. Fuente

En lugar de eso, ‘tolerancia cero’ a menudo se equipara en la mente del público con ‘acción severa pero necesaria’, como las leyes intransigentes que la mayoría de las naciones tienen con respecto a las penas por dañar a menores – es decir, reglas claras para el bien público, concretizadas en leyes punitivas que inspiran poca discusión o compromiso.

En realidad, la tolerancia cero se diseñó para lograr la renovación urbana con un presupuesto, sugiriendo mayores recursos en un ámbito público de lo que realmente existía detrás de escena; no es un caso de uso particularmente aplicable para poner el genio de la IA de vuelta en la botella.

Y en la práctica, la IA generativa ya es tan omnipresente que su contenido de IA aparentemente libre puede deber algo a ella – incluso si se trata de un código de video mejorado por IA en un video (no falso) que usted hizo, presentó a YouTube y publicó en su canal de redes sociales favorito. Si la IA se convierte en algo así como un ‘gas’ cultural, parece destinada a desafiar fronteras claras o soluciones binarias como una ‘prohibición de IA’.

* Énfasis mío.

^† Que podemos considerar representativo de esta clase de LLM, en lugar de un producto exclusivo, en este sentido.

Publicado por primera vez el jueves 29 de enero de 2026