Retroceso total: Los grupos que tratan a la IA como un contaminante intolerable

La “tolerancia cero” hacia el contenido generado por IA es una opción cada vez más atractiva frente a las crecientes preocupaciones legales, éticas y de los usuarios en torno a la IA; pero ¿es este tipo de “exclusión voluntaria” una propuesta práctica?

Opinión  Cualquiera que utilice las redes sociales y otros tipos de foros de discusión en línea puede haber notado, últimamente, un número creciente de comunidades, foros y organizaciones profesionales. prohibir por completo el uso de IA generativa, a medida que el impacto económico de la tecnología se extiende más allá de los artistas y escritores cuyas protestas encendieron las preocupaciones actuales en 2023.

Con las consecuencias legales y económicas de la revolución de la IA aún incierto, organizaciones que se enfrentan presión Tanto los usuarios como los asesores legales internos se ven obligados a decidir políticas mucho antes de que el panorama completo esté claro, una situación complicada por la creencia emergente que una adopción tardía podría dejarlos en desventaja competitiva.

La IA como miasma

El Decisión Prohibir es una decisión política, con consecuencias; capacidad o permiso (ability Prohibir, sin embargo, implica tanto políticas y el trampas prácticas, ya que la historia de prohibir cosas que la gente realmente quiere es una uno a cuadros en el mejor de los casos; e incluso erradicar las cosas que nadie quiere requiere un esfuerzo continuo y a largo plazo.

Así, atormentado por la tanta-incomprendido Según la historia de los luditas, aquellas comunidades y entidades que tratan cualquier rastro de IA como algo absolutamente intolerable a menudo adoptan un tono defensivo cuando anuncian o discuten una prohibición de la IA.

Como los Amish han encontrado En los últimos siglos, puede ser difícil mantener una postura recluida frente a una tecnología verdaderamente impactante; en sentido estricto, por ejemplo, quienes se adhieren a las reglas del veganismo no pueden ver películas. Filmado en celuloide tradicional, o incluso tener an de rayos X. Asimismo, la exclusión voluntaria de la fluoración en países o ciudades que la adopten. puede ser difícil.

En efecto, una tecnología omnipresente y popular es un fenómeno “atmosférico” que no admite fácilmente los límites que actualmente están estableciendo un número cada vez mayor de grupos y organizaciones.

Medidas pre-legales

Como se mencionó anteriormente, las primeras batallas contra la intrusión de la IA se libraron en el sector menos determinista y más interpretativo de la IA general: el entretenimiento. Cuando el Sindicato de Actores de Cine de Estados Unidos (SAG-AFTRA) fought Para proteger los derechos de sus miembros en 2023, finalmente pudo ganar Algunas concesiones notables.

Ha habido muy pocas victorias tan decisivas desde entonces en lo que respecta a la IA, y la batalla por la claridad jurídica en diversos sectores apenas comienza. Por ejemplo, la mayor parte de la nueva legislación sobre deepfakes, en particular la de UK y US, sólo incluye la IA en una categoría más amplia de delito (como imágenes no consensuadas, reales o falsas).

Inmediatamente después de la victoria de SAG-AFTRA, una serie de demandas en torno al uso del trabajo de otros tipos de artistas están en marcha. siempre en progresoMientras tanto, muchos de los grupos descontentos involucrados esperan la ratificación legal con normas locales.

Antes de considerar más a fondo la lógica y las limitaciones de una actitud “totalmente intolerante” hacia la IA, veamos algunos de los casos en los que se está implementando este tipo de política.

Prohibiciones de tolerancia cero a la IA

Una nota de disenso

Sólo este mes, Bandcamp se convirtió en la primera plataforma importante de música en línea en... prohibir por completo el contenido de IALa prohibición fue anunciada en un comunicado que también declaró 'La música y el audio generados total o parcialmente por IA no están permitidos en Bandcamp'.

Esta restricción, como en casi todos los casos, se ve obligada a cubrirse un poco debido al mencionado efecto "miasma" de los sistemas de IA ampliamente difundidos. En otra parte del anuncio, se afirma que la música que* "parece que se realizarán en su totalidad o con una fuerte dependencia de la IA generativa es el objetivo de la prohibición, una limitación pragmática, ya que, en la mayoría de los dominios, al menos some El contenido de genAI puede parecer completamente creado por humanos, tanto para las personas como para el mundo en constante evolución. Detección por IA sector.

En efecto, este es el modelo para la mayoría de las nuevas políticas de "tolerancia cero" que están entrando en vigor: esa ignorancia de la IA is una excusa, en estas circunstancias difíciles.

Después de un incidente donde una pista musical creada por IA irrumpió en las listas suecas, IFPI Suecia, la organización nacional de la industria musical sueca, prohibido Música generada por IA a partir de la inclusión en las listas, aunque con la salvedad habitual de que* 'Nuestra regla es que si es una canción que es principalmente 'Generado por IA, no tiene derecho a estar en la lista superior'.

Una vez más, se reconoce aquí que el deseo de prohibir totalmente la IA es poco práctico: la prohibición es tácita y total, pero su implementación es efectivamente imposible.

Efecto cómico

Una ola de prohibiciones contra el contenido genAI ha arrasado el panorama de las convenciones de cómics en Estados Unidos y otros países durante el último año. La Comic-Con de San Diego, que en 2024 impuso restricciones comerciales al arte producido con IA, anunció este mes que... Prohibir por completo el contenido de IA, supuestamente en respuesta a las protestas de los artistas.

De manera similar, en octubre del año pasado, la Comic-Con de Nueva York impuso una prohibición total a la venta de productos o contenidos generados por IA, y el sitio oficial indicando*:

'Producto, material o contenido creado, en su totalidad o en parte, parte sustancial, que utilicen herramientas o algoritmos de inteligencia artificial generativa (“Generados por IA”) o que incorporen elementos generados por IA, incluidos, entre otros, obras de arte, imágenes o gráficos, animaciones y/o materiales visuales, tienen prohibido estar disponibles para su compra en la Comic Con de Nueva York.

Una vez más, vemos que en la frase "parte sustancial", la redacción debe reconocer la dificultad de identificar la procedencia creativa completa de cualquier obra, hoy en día. Esto refleja la prohibición inicial de San Diego sobre... comercializando Producción de IA, en lugar de su posterior prohibición total del contenido de IA. Dicho esto, este enfoque supone una "desplataforma" bastante efectiva para el contenido de IA, en la mayoría de los casos (aunque dicho trabajo aún podría utilizarse como fuente de información para plataformas comercializadas).

Además, la convención de cómics FanX Salt Lake instituyó una prohibición más decisiva sobre contenido de IA, en septiembre del año pasado, con el fundador y productor Dan Farr comentando:

"Si los clientes vienen y compran una obra de arte y no se dan cuenta de que se utilizó IA generativa para crearla, pueden pagar mucho dinero por ella, sin darse cuenta de que es algo no tan valioso".

Antisocial

Muchas comunidades en línea también han adoptado una política de tolerancia cero hacia el contenido generado por IA. De hecho, este es uno de los aspectos más visibles de la intolerancia a la IA, y fue la creciente frecuencia de estas prohibiciones lo que me llamó la atención sobre el tema:

Un típico edicto anti-IA de Facebook. Fuente

Reddit ha sido especialmente afectados, con moderadores de varios subreddits grandes que a menudo prohibían todas las imágenes, el arte o las formas basadas en texto creadas por IA (como ficción y programación), una vez que dichas publicaciones comenzaron a inundar sus foros y a sobrecargar los limitados recursos de moderación humana.

Un ejemplo muy temprano, de 2022, fue el subreddit r/Dune, donde alrededor de 250,000 fanáticos votó para prohibir Arte generado íntegramente por IA, tras verse inundado de imágenes creadas por IA. Los moderadores del subtítulo comentaron en aquel momento:

"Reconocemos que muchas de estas piezas son bonitas a la vista y que la tecnología es fascinante, pero técnicamente se califica como contenido de bajo esfuerzo, especialmente cuando se compara con el arte original 'hecho por humanos', al que nos gustaría priorizar en el futuro".

Desde entonces, numerosos subreddits (desde r/lego a r/DataHoarder) han declarado de manera similar que cualquier contenido, incluso parcialmente creado por IA, será eliminado inmediatamente después de su detección, al menos, como siempre, cuando sea reconocible.

Prohibiciones similares aparecen con frecuencia en Facebook. Sin embargo, dado que Meta, la empresa matriz de Facebook, es uno de los desarrolladores de IA más avanzados del mundo, mientras que Reddit es, en cambio, un... muy disputado y como fuente muy solicitada de datos humanos en curso, estas prohibiciones tienden a causar menos controversia.

Sorprendentemente, a Meta le lleva un tiempo ponerse al día con el sentimiento general del público en torno a la IA: hace un año, por ejemplo, la empresa hizo una retirada audaz de un experimento con agentes basados ​​en IA que publican en diferentes líneas de tiempo, debido a reacciones adversas de los usuarios.

Prohibiciones de exfiltración de ChatGPT

Una categoría singular de prohibiciones "absolutas" de la IA es la prohibición frecuente del uso de ChatGPT en entornos corporativos o sensibles (y en este sentido, se aplica lo mismo a cualquier modelo de lenguaje basado en la nube y al que se accede mediante API, como Claude or Gemini).

Sin embargo, estas prohibiciones generalmente no están inspiradas por preocupaciones liberales en torno a la explotación de datos de entrenamiento, sino por temores que OpenAI terminará almacenando, procesando o incluso explotando información IP confidencial de la empresa revelada durante los chats con los clientes.

Si bien los departamentos legales pueden apoyar o incluso iniciar prohibiciones corporativas en plataformas de estilo ChatGPT, también es probable que consideren si el uso de datos web abiertos para entrenar sistemas comerciales podría exponer a la empresa o a sus clientes a futuras responsabilidades, en particular si litigio en curso contra OpenAI o entidades similares debería dar lugar a sentencias significativas.

Ejemplos de prohibiciones en ChatGPT^† Incluir un ola de prohibiciones reaccionarias en 2023 de Apple, Amazon, Spotify y Wells Fargo, entre muchos otros. Ese mismo año, un Encuesta de Cisco descubrió que el 27% de las organizaciones encuestadas habían instituido prohibiciones similares, no específicamente en ChatGPT, sino en el uso de GenAI en general.

En 2024, otra encuesta encontró que el 65% de las 20 principales empresas farmacéuticas tenían empleados prohibidos del uso de ChatGPT.

Está claro que muchas, si no todas las empresas mencionadas aquí, probablemente intentarán beneficiarse de la IA en formas que se adapten mejor a sus intereses; y que muchas probablemente mantendrán o desarrollarán otros productos basados ​​en IA para uso interno, o incluso productos API comerciales con mejor protección de propiedad intelectual que la que OpenAI puede ofrecer.

Muchos gobiernos que son grandes defensores de la IA También prohibir ChatGPTAunque algunos de estos, como Cuba y Corea del Norte, son candidatos obvios para este tipo de prohibición, China, actualmente considerada la Luz líder de la revolución de la IA, prohíbe ChatGPT a nivel gubernamental, presumiblemente en favor de alternativas caseras.

Conclusión: Sobre la tolerancia cero

Una preocupación sobre cualquier tendencia hacia prohibiciones "absolutas" de la IA (además del desafío de identificar el contenido de IA) es si la prohibición inflexible es realmente efectiva. De hecho, es fácil malinterpretar qué es realmente la "tolerancia cero", qué puede lograr y las circunstancias relativamente limitadas en las que puede alcanzar sus fines.

Por ejemplo, la ciudad de Nueva York, quizás la más fuertemente asociada con el término "tolerancia cero", fue capaz de rise Desde su punto más bajo de criminalidad en los años 1970 y 1980 hasta la aplicación gradual y continua de la 'ventanas rotas teoría psicológica, que postula que no importa cuán pobre o rico sea un vecindario, la presencia de uno Una ventana rota tenderá a provocar promover ventanas rotas – y una eventual escalada de otros tipos de delitos más graves, ya que la presencia persistente de la ventana rota inicial sugiere que las autoridades no están mirando o no les importa.

Por lo tanto, se cree que una actitud de "tolerancia cero" hacia el delito "semilla" de romper una ventana tiene beneficios posteriores, ya que esta "entropía criminal" nunca puede afianzarse; de ​​esta manera, al atender las pequeñas cosas (como la basura y las ventanas rotas, que no son problemas costosos de resolver), las cosas mayores (que habrían costado más resolver) se solucionan solas.

Llevada a cabo, sin embargo, esta teoría (a veces criticado como racista) puede leerse como autoritarismo extremo, o incluso fascismo:

Dele "click" para jugar. De la única película de entrenamiento que John Ford realizó, 'OSS – Entrenamiento encubierto', Un ejemplo de tolerancia cero aparentemente obsesiva en un contexto cultural de falso eje de la Segunda Guerra Mundial. Fuente

En cambio, en la mente del público la "tolerancia cero" suele equipararse a una acción "severa pero necesaria", como las leyes inflexibles que tienen la mayoría de las naciones con respecto a las sanciones por dañar a menores, es decir, reglas claras para el bien público, concretadas en leyes punitivas que inspiran poco debate o compromiso.

En verdad, ZT fue diseñado para lograr una renovación urbana con un presupuesto limitado, sugiriendo mayores recursos en un espacio público de los que realmente existían detrás de escena; no es un caso de uso particularmente aplicable para volver a meter al genio de la IA en la botella.

Y en la práctica, la IA generativa es ya tan omnipresente que sus datos posteriores aparentemente libres de IA probablemente ya le deban algo, incluso si se trata de una Códec mejorado con IA En un video (real) que hiciste, subiste a YouTube y publicaste en tu red social favorita. Si la IA se convierte en un gas cultural, parece que desafiará las fronteras claras o las soluciones binarias como la prohibición de la IA.

* Mi énfasis.

^† Lo cual podemos considerar representativo de esto clase de LLM, más que un producto exclusivo, en este sentido.

Publicado por primera vez el jueves 29 de enero de 2026