Total Recoil: The Groups Treating AI as an Intolerable Contaminant

‘Nolltolerans’ mot AI-genererat innehåll är ett alltmer tilltalande alternativ i ljuset av växande juridiska, etiska och användarrelaterade problem kring AI; men är detta slag av ‘opting out’ en praktisk möjlighet?

Opinion Den som använder sociala medier och andra typer av online-diskussionsforum kan ha märkt att allt fler samhällen, forum och professionella organisationer helt förbjuder användningen av generativ AI, eftersom den ekonomiska påverkan av tekniken sprider sig bortom konstnärer och författare vars protester antände nuvarande problem redan 2023.

Med de juridiska och ekonomiska konsekvenserna av AI-revolutionen fortfarande osäkra, organisationer som står inför påtryckningar från både användare och interna juridiska rådgivare tvingas att fatta beslut om politik långt innan den fulla bilden är klar – en situation som försvåras av den uppdykande tron att fördröjd adoption kan lämna dem på en konkurrensnackdel.

AI som Miasma

Beslutet att förbjuda är ett politiskt beslut med konsekvenser; förmågan att förbjuda, dock, medför både politiska och praktiska fallgropar, eftersom historien om att förbjuda saker som människor verkligen vill ha är tvetydig på sin bästa; och till och med utrotning av saker som ingen vill ha kräver långsiktig, pågående ansträngning.

Så, hemsökt av den mycket missförstådda historien om ludditerna, de samhällen och enheter som behandlar varje spår av AI som fullständigt outhärdligt ofta antar en defensiv ton när de tillkännager eller diskuterar ett AI-förbud.

Som amishfolket har funnit under de senaste århundradena, kan en tillbakadragen hållning mot en verkligt påverkande teknologi vara svår att upprätthålla; strikt talat, till exempel, de som följer reglerna för veganism kan inte titta på filmer filmade på traditionell celluloid, eller ens ha en röntgen. Likaså kan det vara svårt att välja bort fluoridering i länder eller städer som antar det kan vara svårt.

Effektivt, en allomfattande och populär teknologi är ett ‘atmosfäriskt’ fenomen som inte lätt tillåter gränser som för närvarande sätts av ett växande antal grupper och organisationer.

Föral stringande Åtgärder

Som nämnts tidigare, de första striderna mot AI:s intrång utkämpades i den minst bestämda och mest tolkningsbara sektorn av genAI – underhållning. När den amerikanska skådespelarunionen – American Federation of Television and Radio Artists (SAG-AFTRA) kämpade för skydd av sina medlemmars rättigheter 2023, kunde de slutligen vinna några betydande eftergifter.

Det har varit mycket få segrar som är så avgörande sedan dess, i fråga om AI – och kampen för juridisk tydlighet över ett brett spektrum av sektorer är bara i början. Till exempel innehåller de flesta av de nya lagarna om deepfakes, särskilt från Storbritannien och USA, endast AI i en bredare kategori av brott (såsom icke-samtyckande bilder, verkliga eller falska).

Hett på hälarna efter SAG-AFTRAs seger, en våg av rättegångar om användningen av andra typer av konstnärers arbete är alltid i gång. Under tiden förväntar sig många av de missnöjda grupperna som är inblandade att juridiska godkännanden med lokala regler.

Innan vi överväger logiken och begränsningarna i en ‘totalt intolerant’ attityd till AI, låt oss titta på några av de fall där denna typ av policy genomförs.

Nolltolerans AI-förbud

En Anteckning om Avvikelse

Bara den här månaden blev Bandcamp den första stora online-musikplattformen att helt förbjuda AI-innehåll. Förbudet tillkännagavs i ett uttalande som också förklarade ‘Musik och ljud som genereras helt eller till stor del av AI är inte tillåtna på Bandcamp’.

Detta förbud, som i nästan alla fall, tvingas att chansa lite på grund av den ovannämnda ‘miasma’-effekten av AI-system som spridits vida. I en annan del av tillkännagivandet anges att musik som* ‘verkar att vara gjord helt eller med stor tillförlitning på generativ AI’ är riktad i förbudet – en pragmatisk begränsning, eftersom det i de flesta områden, åtminstone någon genAI-innehåll kan verka vara helt mänskligt gjort, både för människor och för den ständigt utvecklande AI-detektorsektorn.

Effektivt, detta är mallen för de flesta av de nya ‘nolltolerans’-policyer som kommer på plats: att okunskap om AI är en ursäkt, i dessa utmanande omständigheter.

Efter en incident där en AI-skapad musikspår stormade den svenska topplistan, förbjöd IFPI Sverige, den svenska nationella musikindustrins organisation, AI-genererad musik från att ingå i topplistan – fast med den sedvanliga klausulen, som säger* ‘Vår regel är att om det är en låt som är huvudsakligen AI-genererad, har den inte rätt att vara på toppen av listan’.

Återigen, önskan om ett totalt förbud mot AI erkänns vara opraktisk; förbudet är tyst och totalt, men genomförandet är effektivt omöjligt.

Serieeffekt

En våg av förbud mot genAI-innehåll har svept genom seriekonventionsscenen i USA och bortom, under det senaste året. San Diego Comic-Con, som 2024 hade infört kommersiella begränsningar för AI-producerad konst, har den här månaden tillkännagett att det helt förbjuder AI-innehåll, rapporterat som svar på protest från konstnärer.

Likaså, i oktober förra året, införde New York Comic-Con ett komplett förbud mot försäljning av AI-genererade produkter eller innehåll, med den officiella webbplatsen som säger*:

‘Produkt, material eller innehåll som skapas, helt eller till stor del, med hjälp av generativa AI-verktyg eller algoritmer (“AI-genererat”) eller som innehåller AI-genererade element, inklusive men inte begränsat till visuell konst, bilder eller grafik, animationer och/eller material, är förbjudna att erbjudas till försäljning på New York Comic Con.’

Återigen ser vi att i ‘större delen’, formuleringen måste erkänna svårigheten att identifiera den fulla kreativa provenansen för något arbete, vilket speglar San Diegos initiala förbud mot kommersialisering av AI-utdata, snarare än dess senare kompletta förbud mot AI-innehåll. Det sagt, detta tillvägagångssätt är en ganska effektiv ‘avplattformning’ av AI-innehåll, i de flesta fall (även om ett sådant arbete fortfarande kunde användas som en matarledning till kommersiella plattformar).

Ytterligare, införde FanX Salt Lake comic convention ett mer avgörande förbud mot AI-innehåll i september förra året, med grundare och producent Dan Farr som kommenterade:

‘Om kunder kommer och köper en konstverk och de inte inser att generativ AI användes för att skapa det, kan de betala mycket pengar för det, utan att inse att det inte är något riktigt värdefullt.’

Anti-Social

Många online-samhällen har också antagit nolltolerans mot AI-genererat innehåll. Verkligen, detta är en av de mest offentliga aspekterna av AI-intolerans, och det var den ökande frekvensen av sådana förbud som drog min uppmärksamhet till ämnet:

Ett typiskt anti-AI-edikt från Facebook. Källa

Reddit har varit särskilt påverkad, med moderatorer för olika stora subreddits ofta förbjuder alla AI-skapade bilder, konst eller textbaserade former (såsom skönlitteratur och programmering), när sådana inlägg började översvämma deras forum och överbelasta begränsade mänskliga moderatorresurser.

En mycket tidig exempel, från 2022, var r/Dune-subreddit, där cirka 250 000 fans röstade för att förbjuda AI-genererad konst helt, efter att ha blivit överväldigad av AI-gjorda bilder. Subbens moderatorer noterade vid den tiden:

‘Vi erkänner att många av dessa verk är trevliga att titta på, och tekniken är verkligen fascinerande, men det kvalificerar sig tekniskt sett som låginsatsinnehåll – särskilt när det jämförs med original, ’mänskliggjord’ konst, som vi skulle vilja prioritera framöver.’

Sedan dess har många subreddits (från r/lego till r/DataHoarder) likaså deklarerat att allt innehåll som ens delvis är gjort av AI kommer att tas bort på sikte – åtminstone, som alltid, därigenom att det kan kännas igen.

Liknande förbud dyker upp frekvent över Facebook. Men eftersom Meta, Facebooks moderbolag, är en av världens föregångare inom AI-utveckling, medan Reddit är en hett omstridd och eftertraktad källa till pågående mänsklig data, tenderar dessa förbud att orsaka mindre kontrovers.

ChatGPT Exfiltration Förbud

En särskild kategori av ‘absoluta’ AI-förbud är det frekventa förbudet mot användning av ChatGPT i företags- eller känsliga miljöer (och i denna mening, gäller samma sak för alla molnbaserade, API-åtkomliga språkmodeller, som Claude eller Gemini).

Men dessa förbud är vanligtvis inspirerade av rädsla för att OpenAI kommer att lagra, bearbeta eller till och med utnyttja känslig företags-IP som avslöjas under klientchattar.

Medan juridiska avdelningar kan stödja eller till och med initiera företagsförbud mot ChatGPT-liknande plattformar, är de också benägna att överväga om användningen av öppen webbdata för att träna kommersiella system kan utsätta företaget eller dess kunder för framtida skadestånd – särskilt om pågående rättegång mot OpenAI eller liknande enheter skulle resultera i betydande domar.

Exempel på förbud mot ChatGPT^† inkluderar en våg av reaktiva förbud 2023 från Apple, Amazon, Spotify och Wells Fargo, bland många andra. Samma år fann en Cisco-undersökning att 27% av de organisationer som tillfrågades hade infört liknande förbud – inte på ChatGPT specifikt, men på användningen av GenAI överlag.

2024 fann en annan undersökning att 65% av de 20 största läkemedelsföretagen hade förbjudit anställda från att använda ChatGPT.

Det är tydligt att många, om inte alla, av de företag som nämns här, sannolikt kommer att försöka dra nytta av AI på sätt som passar deras intressen bättre; och att många sannolikt kommer att upprätthålla eller utveckla andra AI-baserade produkter för intern användning – eller till och med kommersiella API-produkter med bättre IP-skydd än vad OpenAI kan erbjuda.

Många regeringar som är stora förespråkare för AI förbjuder också ChatGPT. Även om några av dessa, som Kuba och Nordkorea, är uppenbara kandidater för detta slag av förbud, förbjuder Kina, som för närvarande anses vara ledande ljuset i AI-revolutionen, ChatGPT på regeringsnivå – förmodligen till förmån för inhemska alternativ.

Slutsats: Om Nolltolerans

En oro kring varje trend mot ‘absoluta’ förbud mot AI (bortsett från utmaningen att identifiera AI-innehåll), är om eller inte oförsonlig förbud är verkligen effektivt. I själva verket, är det lätt att missförstå vad ‘nolltolerans’ egentligen är; vad det kan uppnå; och de ganska begränsade omständigheterna under vilka det kan uppnå sina mål.

Till exempel, New York City, som kanske är mest förknippat med begreppet ‘nolltolerans’, kunde stiga från sin kriminella botten i 1970- och 1980-talen genom den gradvisa och pågående tillämpningen av ‘krossade fönster‘-teorin, som hävdar att oavsett hur fattig eller välmående en stadsdel är, närvaron av ett enda krossat fönster tenderar att leda till fler krossade fönster – och en eventuell eskalering av andra typer av allvarligare brott, eftersom den pågående närvaron av det initiala krossade fönstret antyder att myndigheterna antingen inte tittar eller inte bryr sig.

Därför anses en ‘nolltolerans’-attityd till ‘frö’-brottet att bryta ett fönster troddes ha uppströms fördelar, eftersom denna ‘kriminell entropi’ aldrig kan få fotfäste; på detta sätt, genom att uppmärksamma små saker (såsom skräp och krossade fönster, som inte är dyra problem att lösa), tar de större sakerna (som skulle ha kostat mer att lösa) hand om sig själva.

Utfört, dock, kan denna teori (ibland kritiserad som rasistisk) läsas som extrem auktoritarianism, eller till och med fascism:

Klicka för att spela. Från den enda utbildningsfilmen John Ford någonsin gjorde, ‘OSS – Undercover Training’, ett exempel på uppenbarligen obsessiv nolltolerans i ett fejkad WWII-axiscenario. Källa

Istället, ‘nolltolerans’ är ofta likställt med ‘sträng men nödvändig’ åtgärd, såsom de obönhörliga lagarna som de flesta nationer har i fråga om straff för att skada minderåriga – d.v.s. tydliga regler för allmänheten, förvandlade till bestraffande lagar som inspirerar liten debatt eller kompromiss.

I själva verket, ZT var utformat för att uppnå stadsförnyelse på en budget, genom att föreslå större resurser i en offentlig arena än vad som faktiskt fanns bakom kulisserna; inte en särskilt tillämplig användningsfall för att sätta AI-trollen tillbaka i flaskan.

Och i praktiken, är generativ AI redan så allomfattande att ditt tydligen AI-fria nedströmsdata kan mycket väl redan ha en viss relation till det – även om det är en AI-förbättrad codec i en (icke-falsk) video som du gjorde, skickade till YouTube och publicerade på din favoritsociala mediekanal. Om AI verkligen blir som en kulturell ‘gas’, verkar det vara bestämt att trotsa tydliga gränser eller binära lösningar som ett ‘AI-förbud’.