Total Recoil: Grupperne, der behandler AI som en utilgivelig forurening

‘Zero-tolerance’ over for AI-genereret indhold er en stadig mere tiltalende mulighed i lyset af voksende juridiske, etiske og brugerbaserede bekymringer omkring AI; men er denne type ‘opting out’ en praktisk mulighed?

Opinion  Enhver, der bruger sociale medier og andre former for online diskussionsforum, har måske bemærket, at der er en voksende antal fællesskaber, fora og professionelle organisationer, der komplet forbuder brugen af genererende AI, da den økonomiske indvirkning af teknologien spreder sig ud over kunstnere og forfattere, hvis protester antændte nuværende bekymringer tilbage i 2023.

Med de juridiske og økonomiske konsekvenser af AI-revolutionen stadig usikre, er organisationer, der står over for pres fra både brugere og interne juridiske rådgivere, tvunget til at træffe beslutninger om politik lang tid før det fulde billede er klart – en situation, der er kompliceret af den fremvoksende overbevisning, at forsinket adoption kan efterlade dem i en konkurrencemæssig ulempe.

AI som Miasma

Beslutningen om at forbyde er en politisk beslutning med konsekvenser; evnen til at forbyde indebærer både politiske og praktiske fælder, da historien om at forbyde ting, som folk virkelig ønsker, er en broget historie på bedste; og selv udryddelsen af ting, som ingen ønsker kræver langvarig, kontinuerlig indsats.

Derfor, hjemsøgt af den meget misforståede historie om Ludditterne, adopterer fællesskaber og enheder, der behandler enhver spor af AI som absolut utilgivelig, ofte en defensiv tone, når de annoncerer eller diskuterer et AI-forbud.

Som Amish har fundet ud af i løbet af de sidste århundreder, kan en tilbagetrækket holdning over for en virkelig indflydelsesrig teknologi være svær at opretholde; strengt taget, for eksempel, kan de, der holder sig til reglerne for veganisme, ikke se film optaget på traditionel celluloid, eller endda have en røntgen. Ligeså kan det være svært at undgå fluoration i lande eller byer, der adopterer det.

Effektivt er en udbredt og populær teknologi en ‘atmosfærisk’ fænomen, der ikke let tillader af de grænser, der nu sættes af en voksende antal grupper og organisationer.

Før-juridiske Foranstaltninger

Som nævnt tidligere, blev de første kampe mod AI’s indtrængen udkæmpet i den mindst deterministiske og mest fortolkningsfulde sektor af genAI – underholdning. Da den amerikanske skuespillerforening–American Federation of Television and Radio Artists (SAG-AFTRA) kæmpede for beskyttelse af medlemmernes rettigheder i 2023, kunne de vinde nogle bemærkelsesværdige indrømmelser.

Der har været meget få sejre så afgørende siden da, i forhold til AI – og kampen for juridisk klarhed på tværs af en række sektorer er kun lige begyndt. For eksempel indeholder de fleste af den nye lovgivning omkring deepfakes, især fra Storbritannien og USA, kun AI i en bredere kategori af kriminalitet (såsom ikke-samtykkende billeder, rigtige eller falske).

Umiddelbart efter SAG-AFTRAs sejr, er en række sager omkring brugen af andre kunstneres arbejde altid i gang. I mellemtiden er mange af de utilfredse grupper, der er involveret, ved at forberede sig på juridisk godkendelse med lokale regler.

Før vi går videre med at overveje logikken og begrænsningerne i en ‘totalt intolerant’ holdning til AI, lad os se på nogle af de tilfælde, hvor denne type politik er ved at blive gennemført.

Zero-Tolerance AI-Forbud

En Note om Utilfredshed

Kun denne måned blev Bandcamp det første store online musikplatform til at komplet forbyde AI-indhold. Forbuddet blev annonceret i en erklæring, der også erklærede ‘Musik og lyd, der er genereret helt eller i væsentlig del af AI, er ikke tilladt på Bandcamp’.

Dette forbud, som i næsten alle tilfælde, er tvunget til at sætte sine bedste buds på grund af den ovennævnte ‘miasma’-effekt af vidt udbredte AI-systemer. I en anden del af annonceringen, erklæres det, at musik, der* ‘synes at være lavet helt eller med stor afhængighed af genererende AI’ er målet for forbuddet – en pragmatisk begrænsning, da det i de fleste domæner er muligt for AI-genereret indhold at se ud som helt menneskeskabt, både for mennesker og for den stadig udviklende AI-detektorsektor.

Effektivt er dette skabelonen for de fleste af de nye ‘zero-tolerance’-politikker, der kommer i kraft: at uvidenhed om AI er en undskyldning i disse udfordrende omstændigheder.

Efter en episode, hvor en AI-skabt musiktrack stormede de svenske hitlister, forbød IFPI Sverige, den svenske nationale musikindustriorganisation, AI-genereret musik fra at blive inkluderet i hitlisterne – dog med den sædvanlige forbehold, der fastsætter* ‘Vores regel er, at hvis det er en sang, der er hovedsageligt AI-genereret, har den ikke ret til at være på top-listen’.

Igen er ønsket om et totalt forbud mod AI erkendt som urealistisk; forbuddet er tavs og totalt, men implementeringen er effektivt umulig.

Comisk Effekt

En bølge af forbud mod genAI-indhold har skyllet over tegneseriemessen i USA og andre lande i løbet af det sidste år. San Diego Comic-Con, der i 2024 havde placeret kommercielle begrænsninger på AI-produceret kunst, har denne måned annonceret, at det komplet forbuder AI-indhold, ifølge rapporter i respons til protester fra kunstnere.

Ligeså, i oktober sidste år, gennemførte New York Comic-Con et komplet forbud mod salg af AI-genereret produkter eller indhold, med den officielle side fastsættende*:

‘Produkt, materiale eller indhold, der er skabt helt eller i væsentlig del ved hjælp af genererende kunstig intelligensværktøjer eller algoritmer (“AI-Genereret”) eller inkorporerer AI-Genereret elementer, herunder men ikke begrænset til visuel kunst, billeder eller grafik, animationer og/eller materiale, er forbudt fra at blive tilbudt til salg på New York Comic Con.’

Atter ser vi, at i ‘væsentlig del’, må formuleringen anerkende vanskeligheden ved at identificere den fulde kreative proveniens af et arbejde, disse dage. Dette afspejler San Diegos initiale forbud mod kommercialisering af AI-udgang, snarere end dens senere komplette forbud mod AI-indhold. Det sagde, er denne tilgang en ret effektiv ‘deplatformning’ af AI-indhold i de fleste tilfælde (selv om sådant arbejde stadig kan bruges som en fødekilde til kommercielle platforme).

Yderligere har FanX Salt Lake tegneseriemessen indført et mere afgørende forbud mod AI-indhold i september sidste år, med grundlægger og producer Dan Farr kommenterende:

‘Hvis kunder kommer og køber et kunstværk og de ikke er klar over, at genererende AI er brugt til at skabe det, kan de betale meget for det, uden at vide, at det ikke er noget så værdifuldt.’

Anti-Social

Mange online fællesskaber har også adopteret zero-tolerance over for AI-genereret indhold. Det er faktisk en af de mest offentligt synlige aspekter af AI-intolerance, og det var den øgede hyppighed af sådanne forbud, der fik min opmærksomhed på emnet:

Et typisk anti-AI-edikt fra Facebook. Kilde

Reddit har været særligt berørt, med moderatorer af forskellige store underfora, der ofte forbuder alle AI-skabte billeder, kunst eller tekstbaserede former (såsom fiktion og programmering), når sådanne indlæg begynder at oversvømme deres fora og overbelaste begrænsede menneskelige modereringsressourcer.

Et meget tidligt eksempel, fra 2022, var r/Dune-underfora, hvor omkring 250.000 fans stemte for at forbyde AI-genereret kunst helt, efter at være blevet oversvømmet med AI-lavet billeder. Underforaets moderatorer bemærkede på det tidspunkt:

‘Vi anerkender, at mange af disse værker er interessante at se på, og teknologien er bestemt fascinerende, men det kvalificerer sig teknisk set som lav indsats – især i forhold til originalt, ‘menneskeskabt’ kunst, som vi gerne vil prioritere fremover.’

Siden da har utallige underfora (fra r/lego til r/DataHoarder) erklæret, at ethvert indhold, der er lavet af AI, selv om det kun er delvist, vil blive fjernet på stedet – hvor det kan genkendes.

Lignende forbud dukker ofte op på Facebook. Dog, da Meta, Facebooks moderselskab, er en af verdens førende udviklere af AI, hvorimod Reddit er et højkontroversiel og eftertragtet kilde til menneskebaseret data, giver disse forbud mindre kontrovers.

Overraskende tager det Meta lidt tid at følge med den generelle offentlige mening omkring AI – for et år siden, for eksempel, trak selskabet tilbage fra et eksperiment med AI-baserede agenter, der publicerede på diverse tidslinjer, på grund af negative brugerreaktioner.

ChatGPT Exfiltration Forbud

En særlig kategori af ‘absolutte’ AI-forbud er det hyppige forbud mod brugen af ChatGPT i virksomheds- eller følsomme miljøer (og i denne forstand gælder det samme for enhver cloud-baseret, API-adgangs language model, såsom Claude eller Gemini).

Disse forbud er dog oftest inspireret af bekymringer om, at OpenAI kan komme til at gemme, behandle eller endda udnytte følsomt virksomheds-IP, der afsløres under klient-samtaler.

Mens juridiske afdelinger kan støtte eller endda initiere virksomhedsforbud mod ChatGPT-lignende platforme, er de også sandsynligvis til at overveje, om brugen af åben web-data til at træne kommercielle systemer kan udsætte virksomheden eller dens kunder for fremtidige ansvar – især hvis fremtidig retsforfølgning mod OpenAI eller lignende enheder skulle resultere i betydelige domme.

Eksempler på forbud mod ChatGPT^† omfatter en bølge af reaktionære forbud i 2023 fra Apple, Amazon, Spotify og Wells Fargo, blandt mange andre. Det samme år fandt en Cisco-undersøgelse, at 27% af de adspurgte organisationer havde indført lignende forbud – ikke kun mod ChatGPT, men mod brugen af GenAI generelt.

I 2024 fandt en anden undersøgelse, at 65% af de top 20 farmaselskaber havde forbudt medarbejderne fra at bruge ChatGPT.

Det er klart, at mange, hvis ikke alle, af de nævnte virksomheder sandsynligvis vil søge at udnytte AI på måder, der bedre passer deres interesser; og at mange sandsynligvis vil opretholde eller udvikle andre AI-baserede produkter til intern brug – eller endda kommercielle API-produkter med bedre IP-beskyttelse end det, OpenAI kan tilbyde.

Mange regeringer, der er store tilhængere af AI, forbyder også ChatGPT. Selv om nogle af disse, såsom Cuba og Nordkorea, er åbenlyse kandidater til denne type forbud, har Kina, der nu anses for at være førerlys for AI-revolutionen, forbudt ChatGPT på regeringsniveau – sandsynligvis til fordel for hjemmegjorte alternativer.

Konklusion: Om Zero-Tolerance

En bekymring omkring enhver tendens mod ‘absolutte’ forbud mod AI (bortset fra udfordringen ved at identificere AI-indhold) er, om uforbeholden forbud i virkeligheden er effektivt. Faktisk er det let at misforstå, hvad ‘zero-tolerance’ egentlig er; hvad det kan opnå; og de ret begrænsede omstændigheder, under hvilke det kan opnå sine mål.

For eksempel var New York City, der måske er mest associeret med begrebet ‘zero-tolerance’, i stand til at stige fra sin kriminelle lavpunkt i 1970’erne og 1980’erne gennem den gradvise og kontinuerlige anvendelse af ‘broken windows’ psykologisk teori, der fastslår, at uanset hvor fattig eller rig en bydel er, tilstedeværelsen af blot ét knust vindue vil have tendens til at føre til yderligere knuste vinduer – og en efterfølgende eskalering af andre former for mere alvorlig kriminalitet, da den fortsatte tilstedeværelse af det oprindelige knuste vindue antyder, at myndighederne enten ikke ser eller ikke bekymrer sig.

Derfor anses en ‘zero-tolerance’-holdning til ‘frø’-kriminaliteten ved at knuse et vindue for at have upstream-fordele, da denne ‘kriminelle entropi’ aldrig kan få fodfæste; på denne måde, ved at beskæftige sig med små ting (såsom affald og knuste vinduer, som ikke er dyre problemer at løse), tager de større ting (som ville have kostet mere at løse) sig af sig selv.

Udført, kan denne teori (nogle gange kritiseret som racistisk) lyde som ekstremt autoritært eller endda fascistisk:

Klik for at afspille. Fra den eneste træningsfilm, John Ford nogensinde har lavet, ‘OSS – Undercover Training’, et eksempel på åbenlyst obsessiv zero-tolerance i en falsk WWII-akse-kulturkontekst. Kilde

Derimod er ‘zero-tolerance’ ofte sammenlignet med ‘strengt men nødvendigt’ handling, såsom de uforbeholdne love, som de fleste lande har i forhold til straffe for at skade mindreårige – dvs. klare regler for det offentlige gode, konkretiseret i straffelove, der inspirerer lidt debat eller kompromis.

I virkeligheden var ZT designet til at opnå byfornyelse på en budget, ved at antyde større ressourcer i en offentlig arena end det, der faktisk fandtes bag kulisserne; ikke en særlig anvendelig brugsanvisning til at putte AI-djævlen tilbage i flasken.

Og i praksis er genererende AI allerede så udbredt, at dit tilsyneladende AI-frie nedstrømsdata sandsynligvis allerede skylder noget til det – selv hvis det er en AI-forbedret codec i en (ægte) video, du har lavet, indsendt til YouTube og delt på din favorit sociale mediekanal. Hvis AI virkelig bliver som en kulturel ‘gas’, synes det at være sat til at trodse klare grænser eller binære løsninger, såsom et ‘AI-forbud’. * Min fremhævelse. † Hvad vi kan betragte som repræsentativt for denne klasse af LLM, snarere end en eksklusivt produkt, i denne forstand. Først publiceret torsdag, 29. januar 2026.