Celková Rekoil: Skupiny, které pohlíží na umělou inteligenci jako na nesnesitelnou kontaminant

‘Nulová tolerance’ vůči obsahu generovanému umělou inteligencí je stále lákavější možností vzhledem ke rostoucím právním, etickým a obavám uživatelů kolem AI; ale je tento typ ‘opt-out’ praktickou možností?

Opinion  Kdokoli, kdo používá sociální média a další typy online diskusních fór, možná již všiml, že se počet komunit, fór a profesních organizací plně zakazujících použití generativní umělé inteligence, roste, protože ekonomický dopad této technologie se šíří za hranice umělců a spisovatelů, jejichž protesty vyvolaly současné obavy v roce 2023.

S právními a ekonomickými důsledky revoluce AI ještě nejistými, organizace, které čelí tlaku ze strany uživatelů i vnitřních právních poradců, jsou nuceny rozhodnout o politice ještě předtím, než je jasný celý obraz – situace, která je komplikována vznikajícím přesvědčením, že zpožděná adopce by je mohla uvést do konkurenční nevýhody.

Umělá inteligence jako miasma

Rozhodnutí o zákazu je politické, s důsledky; schopnost zakázat však zahrnuje jak politické, tak praktické pasti, protože historie zákazu věcí, které lidé opravdu chtějí, je nejednoznačná; a dokonce i vymýcení věcí, které nikdo nechce vyžaduje dlouhodobé, pokračující úsilí.

Proto, pronásledováni málo pochopenou historií ludditů, komunity a entity, které pohlíží na jakoukoli stopu AI jako na zcela nesnesitelnou, často přijímají defenzivní tón, když oznamují nebo diskutují o zákazu AI.

Jako Amišové zjistili za posledních několik století, že reclusivní postoj proti skutečně impaktové technologii může být těžké udržet; přísně vzato, například, ti, kteří dodržují pravidla veganismu, nemohou sledovat filmy natáčené na tradiční celuloid, nebo dokonce mít rentgen. Podobně, opt-out z fluoridace v zemích nebo městech, která ji přijímají může být obtížné.

Efektivně, všudypřítomná a populární technologie je ‘atmosférickým’ jevem, který se snadno nevyhnutelně stává hranicemi, které jsou nyní stanoveny rostoucím počtem skupin a organizací.

Předprávní opatření

Jak bylo zmíněno dříve, první bitvy proti AI se odehrály v nejmenší deterministické a nejinterpretativnější sekci genAI – zábavě. Když Americká herecká asociace bojovala za ochranu práv svých členů v roce 2023, podařilo se jim nakonec vyhrát některé významné ústupky.

Od té doby nebyly žádné další významné vítězství v boji za právní jasnost v oblasti AI – a bitva za právní jasnost napříč různými sektory teprve začíná. Například většina nové legislativy kolem deepfake, zejména z Velké Británie a USA, zahrnuje AI pouze v širší kategorii zločinu (jako nezávislé obrazové nebo falešné).

Hned po vítězství SAG-AFTRA, série žalob kolem použití práce jiných druhů umělců je vždy v průběhu. Mezitím, mnoho postižených skupin čeká na právní ratifikaci s místními pravidly.

Než budeme dále zvažovat logiku a omezení ‘totální intolerance’ vůči AI, podívejme se na některé případy, kde je tento typ politiky prováděn.

Nulová tolerance AI zákazy

Poznámka nesouhlasu

Pouze tento měsíc, Bandcamp se stal prvním velkým online hudebním platformem, který plně zakázal AI obsah. Zákaz byl oznámen v prohlášení, které také prohlašovalo ‘Hudba a audio, které je generováno zcela nebo z velké části AI, není povoleno na Bandcampu’.

Tato omezení, jako v téměř všech případech, je nucena trochu hazardovat kvůli výše zmíněnému ‘miasma’ efektu široce rozšířených AI systémů. V jiném místě prohlášení se uvádí, že hudba, která* ‘zdá se být vyrobena zcela nebo s velkou pomocí generativní AI’ je cílem zákazu – pragmatické omezení, protože v většině domén je alespoň nějaký genAI obsah schopen vypadat jako zcela lidsky vyrobený, jak pro lidi, tak pro neustále se vyvíjející AI-detection sektor.

Efektivně, toto je šablona pro většinu nových ‘nulových tolerančních’ politik, které vstupují v platnost: že nevědomost o AI je omluvou, v těchto náročných okolnostech.

Po incidentu, kde AI-vytvořená hudba vtrhla do švédských hitparád, IFPI Švédsko, švédská národní hudební organizace, zakázala AI-generovanou hudbu zahrnout do hitparád – ačkoli s obvyklou výjimkou, která uvádí* ‘Naše pravidlo je, že pokud je to píseň, která je hlavně AI-generována, nemá právo být na vrcholu seznamu’.

Znovu, přání totálního zákazu AI je zde uznáno jako nerealistické; zákaz je tacitní a úplný, ale implementace je efektivní nemožná.

Komický efekt

Vlna zákazu proti genAI obsahu prošla komiksovou scénou v USA a jinde, za poslední rok. San Diego Comic-Con, který v roce 2024 umístil komerční omezení na AI-vyrobené umění, oznámil tento měsíc, že zakazuje AI obsah úplně, údajně jako reakci na protest umělců.

Podobně, v říjnu minulého roku, New York Comic-Con vynutil úplný zákaz prodeje AI-generovaných produktů nebo obsahu, s oficiálním webem uvádějícím*:

‘Produkt, materiál nebo obsah vytvořený, zcela nebo z velké části, pomocí generativních umělých inteligencí nebo algoritmů (“AI-Generated”) nebo zahrnující AI-Generated prvky, včetně, ale ne pouze, vizuálního umění, obrázků nebo grafiky, animací a/nebo materiálů, jsou zakázány k prodeji na New York Comic Con.’

Znovu, vidíme, že v ‘značné části’, formulace musí uznat obtížnost identifikace celé tvořivé provenience jakéhokoli díla, tyto dny. To odráží San Diego’s počáteční zákaz komercializace AI výstupu, spíše než jeho pozdější úplný zákaz AI obsahu. Říká se, že tento přístup je poměrně efektivní ‘deplatforming’ AI obsahu, ve většině případů (i když taková práce mohla být stále použita jako zdroj komerčních platforem).

Další, FanX Salt Lake komiksová konference zavedla více rozhodný zákaz na AI obsah, v září minulého roku, s zakladatelem a producentem Danem Farrem, který komentoval:

‘Pokud zákazníci přijdou a koupí kus umění a nevědí, že generativní AI byla použita k jeho vytvoření, mohou zaplatit hodně peněz za něj, aniž by věděli, že to není tak cenné.’

Anti-Sociální

Mnoho online komunit také přijalo nulovou toleranci vůči AI-generovanému obsahu. Skutečně, toto je jeden z nejvíce veřejně přístupných aspektů AI intolerance, a to byla rostoucí frekvence takových zákazů, která upoutala mou pozornost k tomuto tématu:

Typický anti-AI edikt z Facebooku. Zdroj

Reddit byl zvláště postižen, s moderátory různých velkých subredditů, kteří často zakazovali všechny AI-vytvořené obrázky, umění nebo textové formy (jako fikce a programování), jakmile tyto příspěvky začaly zaplňovat jejich fóra a zatěžovat omezené lidské moderátorské zdroje.

Velmi raný příklad, z roku 2022, byl subreddit r/Dune, kde kolem 250 000 fanoušků zakázalo AI-generované umění úplně, poté, co byli zaplaveni AI-vytvořenými obrázky. Moderátoři subu v té době uvedli:

‘Uznáváme, že mnoho z těchto kusů je pěkné na pohled, a technologie je jistě fascinující, ale technicky se kvalifikuje jako nízkoúčinný obsah – zejména ve srovnání s originálním, „lidsky vyrobeným“ uměním, které bychom rádi dali přednost do budoucna.’

Od té doby, mnoho subredditů (od r/lego po r/DataHoarder) podobně prohlásilo, že jakýkoli obsah, který byl dokonce částečně vytvořen AI, bude odstraněn na první pohled – alespoň, pokud je to rozpoznatelné.

Podobné zákazy se objevují často na Facebooku. Nicméně, protože Meta, mateřská společnost Facebooku, je jedním z předních vývojářů AI, zatímco Reddit je spíše sporným a vyhledávaným zdrojem lidských dat, tyto zákazy obvykle způsobují méně kontroverze.

Neočekávaně, trvá to Metě chvíli, než se přizpůsobí obecnému veřejnému mínění kolem AI – před rokem, například, společnost provedla odvážný ústup od experimentu s AI-založenými agenty, kteří zveřejňovali na různých časových osách, kvůli nepříznivým reakcím uživatelů.

ChatGPT Exfiltration Bans

Jedna kategorie ‘absolutních’ AI zákazů je častý zákaz používání ChatGPT v korporátních nebo citlivých prostředích (a v tomto smyslu, mnoho z nich se vztahuje na jakýkoli cloud-based, API-přístupný jazykový model, jako je Claude nebo Gemini).

Nicméně, tyto zákazy jsou obvykle inspirovány ne liberálními obavami kolem tréninkových dat, ale obavami, že OpenAI skončí ukládáním, zpracováváním nebo dokonce využíváním citlivých firemních IP, které jsou zveřejněny během klientů chatů.

Zatímco právní oddělení může podporovat nebo dokonce iniciovat firemní zákazy ChatGPT-style platforem, jsou také pravděpodobně považovat, zda použití open-web dat pro trénink komerčních systémů by mohlo vystavit společnost nebo její zákazníky budoucím závazkům – zejména pokud probíhající soudní spory proti OpenAI nebo podobným entitám by mohly vést k významným rozsudkům.

Příklady zákazů na ChatGPT^† zahrnují vlnu reakčních zákazů v roce 2023 od Apple, Amazon, Spotify a Wells Fargo, mezi mnoha dalšími. Tentýž rok, Cisco průzkum zjistil, že 27% organizací, které se zúčastnily, zavedlo podobné zákazy – ne na ChatGPT specificky, ale na použití GenAI obecně.

V roce 2024, další průzkum zjistil, že 65% top 20 farmaceutických společností zakázalo zaměstnancům používat ChatGPT.

Je zřejmé, že mnoho, ne-li všechny společnosti, které jsou zmíněny zde, pravděpodobně budou usilovat o to, aby využily AI způsobem, který lépe odpovídá jejich zájmům; a že mnoho z nich bude pravděpodobně udržovat nebo vyvíjet další AI-založené produkty pro interní použití – nebo dokonce komerční API produkty s lepší ochranou IP než OpenAI může nabídnout.

Mnoho vlád, které jsou velkými zastánci AI, také zakazují ChatGPT. Ačkoli některé z nich, jako Kuba a Severní Korea, jsou zjevnými kandidáty na tento typ zákazu, Čína, která je v současné době považována za vedoucí světovou AI revoluci, zakazuje ChatGPT na vládní úrovni – pravděpodobně ve prospěch domácích alternativ.

Závěr: O nulové toleranci

Jedna obava týkající se trendu ‘absolutních’ zákazů AI (kromě výzvy identifikace AI obsahu) je, zda je neústupná prohibice skutečně efektivní. Ve skutečnosti, je snadné nepochopit, co ‘nulová tolerance’ vlastně je; co může dosáhnout; a poměrně omezené okolnosti, ve kterých může dosáhnout svých cílů.

Například, New York City, možná nejvíce spojený s termínem ‘nulová tolerance’, byl schopen vystoupit ze své zločinné propasti v 70. a 80. letech prostřednictvím postupného a pokračujícího uplatňování ‘rozbitých oken‘ psychologické teorie, která tvrdí, že bez ohledu na to, jak chudý nebo bohatý je sousedství, přítomnost jediného rozbitého okna bude mít tendenci vést k dalším rozbitým oknům – a následnému zhoršení dalších, vážnějších zločinů, protože neustálá přítomnost počátečního rozbitého okna naznačuje, že úřady buď nedívají, nebo se nestarají.

Tak, ‘nulová tolerance’ k ‘semenovému’ zločinu rozbití okna se má za to, že má pozitivní účinek, protože tato ‘zločinná entropie’ se nikdy nemůže uchytit; tímto způsobem, řešením malých věcí (jako je nepořádek a rozbitá okna, které nejsou drahé na řešení), větší věci (které by stály více na řešení) se samy o sobě postarají.

Vykonaná, tato teorie (někdy kritizovaná jako rasistická) může vypadat jako extrémní autoritářství, nebo dokonce fašismus:

Kliknutím se spustí. Ze jediného tréninkového filmu, který John Ford kdy vytvořil, ‘OSS – Undercover Training’, příklad zdánlivě posedlé nulové tolerance v kontextu falešné WWII osy. Zdroj

Místo toho, ‘nulová tolerance’ je často spojena s ‘přísným, ale nezbytným’ aktem, jako jsou nekompromisní zákony, které většina zemí má v souvislosti s tresty za poškozování nezletilých – tj. jasná pravidla pro veřejný prospěch, zkonkretizovaná do trestních zákonů, které inspirují málo debat nebo kompromisů.

Ve skutečnosti, ZT byla navržena tak, aby dosáhla městské obnovy s rozpočtem, naznačujícím větší zdroje ve veřejném prostoru, než skutečně existovaly za scénou; žádný zvlášť použitelný případ pro vrácení AI džina do lahve.

A v praxi, generativní AI je již tak všudypřítomná, že váš zdánlivě AI-volný downstream data může již nyní něco dlužit – i když je to AI-vylepšený kodek v (nefalešném) videu, které jste vytvořili, odeslali na YouTube a zveřejnili na vašem oblíbeném sociálním média kanálu. Pokud AI skutečně bude jako kulturní ‘plyn’, zdá se, že je připravena ignorovat jasné hranice nebo binární řešení, jako je ‘AI zákaz’.

* Můj důraz.

^† Kterou můžeme považovat za reprezentativní pro tuto třídu LLM, spíše než exkluzivní produkt, v tomto smyslu.

Poprvé zveřejněno ve čtvrtek, 29. ledna 2026