Unghiul lui Anderson

Respingere totală: grupurile care tratează IA ca pe un contaminant intolerabil

Martin Anderson
Adaugă Unite.AI la sursele tale preferate pe Google
AI-generated image, Z-Image Turbo via Krita Diffusion AI + Photoshop 2023 (no-AI): 'Interior. Photo of two burly US military guards, standing sentry with large automatic rifles, outside a huge and complex bank vault door, stock image. The bank vault door is made of thick steel and seems impenetrable'
Puncte cheieInterzicerea totală a IA se confruntă cu imposibilitatea practică datorită naturii ei…
Vezi mai mult
  • Interzicerea totală a IA se confruntă cu imposibilitatea practică datorită naturii ei omniprezente și adesea nedetectabile.
  • Organizații precum Bandcamp și Comic-Con adoptă interdicții ca măsuri pre-juridice în contextul unor panorame economice și de drepturi de autor incerte.
  • Interzicerile corporatiste ale ChatGPT provin în primul rând din temeri legate de securitatea proprietății intelectuale, mai degrabă decât din preocupări etice privind datele de antrenament.

„Toleranța zero” față de conținutul generat de IA devine tot mai atrăgătoare pe fondul îngrijorărilor juridice, etice și ale utilizatorilor legate de IA. Dar este practic posibil să renunți la IA în acest fel?

 

Opinie  Oricine folosește rețele sociale și alte forumuri de discuții online a observat poate, în ultima vreme, că tot mai multe comunități, forumuri și organizații profesionale interzic complet utilizarea IA generative, pe măsură ce impactul economic al tehnologiei se extinde dincolo de artiștii și scriitorii ale căror proteste au declanșat îngrijorările actuale în 2023.

În condițiile în care consecințele juridice și economice ale revoluției IA sunt încă incerte, organizațiile supuse unor presiuni atât din partea utilizatorilor, cât și a consilierilor juridici interni sunt obligate să stabilească politici cu mult înainte ca imaginea de ansamblu să fie clară. Situația este complicată de convingerea tot mai răspândită că adoptarea întârziată le-ar putea dezavantaja în competiție.

IA ca miasmă

Decizia de a interzice este una politică, având consecințe. Însă capacitatea de a impune un asemenea demers implică deopotrivă capcane politice și practice. Istoria interzicerii lucrurilor pe care oamenii și le doresc cu adevărat este cel mult una cu rezultate amestecate. Chiar și eliminarea lucrurilor pe care nimeni nu le dorește necesită eforturi susținute pe termen lung.

Astfel, pe fundalul istoriei adesea greșit înțelese a ludiților, comunitățile și organizațiile care consideră orice urmă de IA drept complet intolerabilă adoptă frecvent un ton defensiv când anunță sau discută o interdicție privind IA.

După cum amishii au constatat de-a lungul ultimelor secole, o atitudine de izolare față de o tehnologie cu impact profund poate fi greu de menținut. Strict vorbind, cei care respectă regulile veganismului nu pot, de exemplu, să vizioneze filme realizate pe peliculă tradițională de celuloid sau chiar să facă o radiografie. Tot astfel, în țările sau orașele care practică fluorizarea, evitarea ei poate fi dificilă.

În esență, o tehnologie omniprezentă și populară devine un fenomen „atmosferic”, care nu se lasă ușor încadrat în limitele pe care încearcă acum să le traseze tot mai multe grupuri și organizații.

Măsuri înaintea legii

După cum am menționat, primele confruntări cu avansul IA s-au purtat în sectorul cel mai puțin determinist și cel mai interpretativ al IA generative: divertismentul. Când sindicatul american Screen Actors Guild–American Federation of Television and Radio Artists (SAG-AFTRA) a luptat pentru protejarea drepturilor membrilor săi în 2023, a reușit în cele din urmă să obțină câteva concesii importante.

De atunci au fost foarte puține victorii la fel de decisive în privința IA, iar lupta pentru claritate juridică în diverse sectoare abia începe. De exemplu, cea mai mare parte din noua legislație privind deepfake-urile, mai ales din Regatul Unit și SUA, include IA doar într-o categorie mai largă de infracțiuni, cum ar fi imaginile fără consimțământ, reale sau false.

După victoria SAG-AFTRA au urmat numeroase procese privind utilizarea lucrărilor altor categorii de artiști, care se desfășoară continuu. Între timp, multe dintre grupurile nemulțumite implicate anticipează o confirmare juridică prin propriile reguli locale.

Înainte de a analiza mai departe logica și limitele unei atitudini complet intolerante față de IA, să vedem câteva cazuri în care asemenea politici sunt puse în aplicare.

Interdicții privind IA cu toleranță zero

O notă de dezacord

Abia luna aceasta, Bandcamp a devenit prima mare platformă de muzică online care a interzis complet conținutul IA. Interdicția a fost anunțată într-o declarație care preciza și că „Muzica și materialele audio generate integral sau într-o proporție substanțială de IA nu sunt permise pe Bandcamp”.

Ca în aproape toate cazurile, această restricție trebuie să păstreze anumite rezerve din cauza efectului de „miasmă” al sistemelor IA răspândite pe scară largă. În altă parte a anunțului se precizează că interdicția vizează muzica ce* „pare realizată integral sau cu un aport major al IA generative”. Este o limitare pragmatică, întrucât, în cele mai multe domenii, cel puțin o parte din conținutul realizat cu IA generativă poate părea creat în întregime de oameni, atât pentru oameni, cât și pentru sectorul în continuă evoluție al detectării IA.

Acesta este, în esență, modelul majorității noilor politici cu toleranță zero: în aceste împrejurări dificile, necunoașterea folosirii IA este o scuză.

După un incident în care o piesă creată cu IA a urcat spectaculos în clasamentele suedeze, IFPI Suedia, organizația națională a industriei muzicale, a interzis includerea muzicii generate de IA în clasamente, însă cu rezerva obișnuită. Organizația a declarat*: „Regula noastră este că, dacă o piesă este în principal generată de IA, nu are dreptul să figureze în top”.

Din nou, se recunoaște că dorința unei interdicții totale asupra IA nu este practic realizabilă. Interdicția este implicită și totală, dar aplicarea ei este efectiv imposibilă.

Efectul asupra convențiilor de benzi desenate

Un val de interdicții asupra conținutului creat cu IA generativă a cuprins în ultimul an convențiile de benzi desenate din SUA și din alte țări. San Diego Comic-Con, care în 2024 impusese restricții comerciale asupra artei realizate cu IA, a anunțat luna aceasta că interzice complet conținutul IA, potrivit relatărilor ca răspuns la protestele artiștilor.

La fel, în octombrie anul trecut, New York Comic-Con a impus o interdicție totală asupra vânzării de produse sau conținut generate de IA. Site-ul oficial precizează*:

„Produsele, materialele sau conținutul create integral ori într-o proporție substanțială cu instrumente sau algoritmi de inteligență artificială generativă (“generate de IA”), ori care includ elemente generate de IA, inclusiv, fără a se limita la, artă vizuală, imagini sau grafică, animații și/sau materiale, nu pot fi oferite spre vânzare la New York Comic Con.”

Din nou, formularea „într-o proporție substanțială” trebuie să țină cont de dificultatea identificării întregii origini creative a unui lucru în prezent. Aceasta reflectă interdicția inițială din San Diego asupra comercializării rezultatelor IA, nu interdicția ulterioară și completă asupra conținutului IA. Abordarea privează totuși destul de eficient conținutul IA de o platformă în majoritatea cazurilor, deși asemenea lucrări ar putea fi folosite în continuare ca material pentru platforme comerciale.

De asemenea, convenția FanX Salt Lake a instituit în septembrie anul trecut o interdicție mai fermă asupra conținutului IA. Fondatorul și producătorul Dan Farr a comentat:

„Dacă vin clienții și cumpără o lucrare de artă fără să își dea seama că la realizarea ei s-a folosit IA generativă, pot plăti mulți bani fără să înțeleagă că nu este chiar atât de valoroasă.”

Antisocial

Multe comunități online au adoptat și ele toleranța zero față de conținutul generat de IA. Acesta este, de fapt, unul dintre cele mai vizibile aspecte ale intoleranței față de IA, iar frecvența tot mai mare a unor asemenea interdicții mi-a atras atenția asupra subiectului:

O regulă tipică împotriva IA pe Facebook. Sursă: https://www.facebook.com/groups/1416546745305397/posts/3754074121552636/

O regulă tipică împotriva IA pe Facebook. Sursă

Reddit a fost deosebit de afectat. Moderatorii mai multor subreddituri mari interzic adesea toate imaginile, lucrările de artă sau formele textuale create cu IA, precum ficțiunea și programarea, după ce asemenea postări au început să inunde forumurile și să suprasolicite resursele limitate de moderare umană.

Un exemplu timpuriu, din 2022, este subredditul r/Dune, unde aproximativ 250.000 de fani au votat pentru interzicerea completă a artei generate de IA, după ce fuseseră copleșiți de imagini create cu IA. Moderatorii au remarcat atunci:

„Recunoaștem că multe dintre aceste lucrări sunt plăcute la vedere, iar tehnologia este într-adevăr fascinantă, dar tehnic se încadrează în categoria conținutului care necesită puțin efort, mai ales în comparație cu arta originală, «creată de oameni», pe care am dori să o prioritizăm de acum înainte.”

De atunci, numeroase subreddituri, de la r/lego la r/DataHoarder, au declarat la rândul lor că orice conținut creat chiar și parțial cu IA va fi eliminat imediat, cel puțin, ca întotdeauna, acolo unde poate fi recunoscut.

Interdicții similare apar frecvent pe Facebook. Însă, deoarece Meta, compania-mamă a Facebook, este unul dintre principalii dezvoltatori de IA din lume, în timp ce Reddit este mai degrabă o sursă intens disputată și căutată de date produse continuu de oameni, aceste interdicții tind să provoace mai puține controverse.

În mod surprinzător, Meta are nevoie de timp ca să ajungă din urmă atitudinea generală a publicului față de IA. De exemplu, în urmă cu un an, compania a făcut un pas hotărât înapoi dintr-un experiment în care agenți IA postau pe diverse fluxuri, din cauza reacțiilor negative ale utilizatorilor.

Interdicții privind ChatGPT pentru prevenirea scurgerilor de date

O categorie aparte de interdicții „absolute” privind IA este interzicerea frecventă a utilizării ChatGPT în mediile corporative sau sensibile. În acest sens, același lucru este valabil pentru orice model lingvistic bazat în cloud și accesat prin API, precum Claude sau Gemini.

Totuși, asemenea interdicții nu sunt de obicei motivate de preocupări progresiste privind exploatarea datelor de antrenare, ci de temeri că OpenAI va ajunge să stocheze, să prelucreze sau chiar să exploateze proprietatea intelectuală sensibilă a companiilor, dezvăluită în conversațiile cu serviciul.

Departamentele juridice pot sprijini sau chiar iniția interdicții corporative asupra platformelor de tip ChatGPT. Probabil vor analiza și dacă utilizarea datelor de pe webul deschis pentru antrenarea unor sisteme comerciale ar putea expune compania sau clienții ei unor răspunderi viitoare, mai ales dacă litigiile în curs împotriva OpenAI ori a unor entități similare ar duce la hotărâri judecătorești semnificative.

Exemplele de interdicții privind ChatGPT† includ un val de interdicții ca reacție la evoluțiile tehnologice în 2023 la Apple (AAPL ), Amazon (AMZN ), Spotify și Wells Fargo, printre multe altele. În același an, un studiu Cisco a constatat că 27% dintre organizațiile chestionate instituiseră interdicții similare, nu în mod specific asupra ChatGPT, ci asupra IA generative în ansamblu.

În 2024, un alt studiu a constatat că 65% dintre cele mai mari 20 de companii farmaceutice le interziseseră angajaților să folosească ChatGPT.

Este clar că multe, dacă nu toate, dintre companiile menționate vor încerca probabil să profite de IA în moduri mai potrivite intereselor lor. Multe vor întreține sau dezvolta probabil alte produse bazate pe IA pentru uz intern ori chiar produse API comerciale cu o protecție mai bună a proprietății intelectuale decât poate oferi OpenAI.

Multe guverne care susțin puternic IA interzic și ele ChatGPT. Unele, precum Cuba și Coreea de Nord, sunt candidați evidenți pentru asemenea interdicții. Însă și China, considerată în prezent lider al revoluției IA, interzice ChatGPT la nivel guvernamental, probabil în favoarea unor alternative autohtone.

Concluzie: despre toleranța zero

O întrebare legată de orice tendință spre interdicții „absolute” privind IA, dincolo de dificultatea identificării conținutului IA, este dacă interzicerea fără compromis funcționează cu adevărat. Este ușor să înțelegi greșit ce înseamnă toleranța zero, ce poate realiza și împrejurările destul de limitate în care își poate atinge obiectivele.

De exemplu, New York City, probabil orașul cel mai strâns asociat cu termenul „toleranță zero”, a reușit să se ridice din situația dezastruoasă marcată de criminalitate din anii 1970 și 1980 prin aplicarea treptată și continuă a teoriei psihologice a ferestrelor sparte. Aceasta susține că, indiferent cât de sărac sau înstărit este un cartier, prezența unei singure ferestre sparte tinde să ducă la mai multe ferestre sparte și, în cele din urmă, la o creștere a altor infracțiuni mai grave. Menținerea primei ferestre sparte sugerează că autoritățile fie nu sunt atente, fie nu le pasă.

Prin urmare, se consideră că toleranța zero față de infracțiunea inițială, de la care pornesc celelalte, de a sparge o fereastră, are beneficii preventive, întrucât această „entropie infracțională” nu poate prinde rădăcini. Astfel, ocupându-ne de lucrurile mici, precum gunoiul și ferestrele sparte, care nu costă mult să fie reparate, problemele mai mari, care ar fi costat mai mult, s-ar rezolva singure.

Aplicată însă în practică, această teorie, uneori criticată ca rasistă, poate părea extrem de autoritară sau chiar fascistă:

Apăsați pentru redare. Din singurul film de instruire realizat vreodată de John Ford, „OSS – Undercover Training”, un exemplu de toleranță zero aparent obsesivă într-un cadru fictiv al culturii Puterilor Axei din al Doilea Război Mondial. Sursă

În schimb, în percepția publică toleranța zero este adesea echivalată cu acțiuni ferme, dar necesare, precum legile fără compromis pe care majoritatea țărilor le au privind pedepsele pentru vătămarea minorilor: reguli clare în interesul public, concretizate în legi punitive care lasă puțin loc de dezbatere sau compromis.

În realitate, toleranța zero a fost concepută pentru a realiza reînnoire urbană cu un buget limitat, sugerând existența unor resurse mai mari în spațiul public decât existau efectiv în culise. Nu este un model deosebit de potrivit pentru a pune duhul IA înapoi în sticlă.

În practică, IA generativă este deja atât de răspândită încât datele aparent lipsite de IA din aval pot să îi datoreze deja ceva, chiar dacă este vorba doar despre un codec îmbunătățit cu IA într-un videoclip nefalsificat pe care l-ați realizat, trimis pe YouTube și postat pe canalul preferat de socializare. Dacă IA ajunge într-adevăr un fel de „gaz” cultural, pare menită să sfideze granițele clare sau soluțiile binare, precum o interdicție asupra IA.

 

* Sublinierea îmi aparține.

† În acest sens, îl putem considera reprezentativ pentru această clasă de modele lingvistice mari, nu drept un produs exclusiv.

Publicat inițial joi, 29 ianuarie 2026

Scriitor în învățare automată, specialist de domeniu în sinteza imaginilor umane. Fost șef al conținutului de cercetare la Metaphysic.ai, până la dizolvarea sa în Brahma.ai de la DNEG.
Site web: martinanderson.ai
Contact: martin@martinanderson.ai