Cât va mai trece până la o reprimare reală a decenzurării modelelor de IA?

Dacă sunteți suficient de în vârstă ca să vă amintiți scena warez din perioada aproximativă 1995–2010, când colecții vaste de software spart și filme copiate (cumpărate en-gros, direct de pe stradă sau adunate de pirați amatori după ce banda largă de mare viteză a făcut posibile descărcările masive și de volum mare) se acumulau în numeroase colecții de DVD-uri care abia mai încăpeau pe rafturi, scena emergentă a modelelor de IA open-source „decenzurate” s-ar putea să vă pară familiară.

Din „epoca de aur” a comerțului stradal informal cu software și filme. Credit – Shankar.s. „DVD-uri piratate la piața stradală PP” – Sursă / Licență

Pe atunci, înainte ca închirierea de software să devină o practică obișnuită pentru consumatori, s-a format un grup restrâns, dar de elită, de pasionați ai software-ului din „scenă”, care spargeau aplicații, apoi le lansau în grupurile de discuții „warez” și, mai târziu, în grupurile de torrent. Aceste restricții puteau fi greu sau ușor de ocolit, dar odată răspândite, încălcările erau de obicei imposibil de șters.

Asta se întâmplă acum cu modelele lingvistice mari (LLM-uri) open-source, cărora li se elimină în mod curent și la scară largă filtrele de siguranță integrate în timpul antrenării; apoi, aceste modele decenzurate ajung să fie distribuite în atât de multe locuri, încât nici închiderea sursei inițiale a „spargerii” nu mai schimbă disponibilitatea modelelor.

Binefăcător sau răufăcător

Întrebarea este: cum vreți să priviți aceste activități? Spre deosebire de scena warez, nimeni nu este văduvit în mod la fel de explicit de venituri precum au fost, se poate argumenta, producătorii mai mici de software în urmă cu 20–30 de ani.

Cu siguranță, în astfel de cazuri* termenii licenței originale sunt încălcați deseori; totuși, spre deosebire de lansările cu ponderi parțiale ale unor producători de modele de IA generativă precum Black Forest Labs, distribuitorii originali nu folosesc versiunile de „calitate mai slabă” ca modalitate de a atrage clienții către modele mai performante, disponibile doar prin API; ei lansează direct modelele complete.

În majoritatea cazurilor, aproape nimeni nu poate rula local aceste versiuni inițiale, fiindcă au prea mulți parametri, chiar și pentru plăci GPU bine echipate, cu o memorie VRAM de 16–24 GB.

Astfel, versiunile inițiale sunt convertite rapid în versiuni reduse, capabile să ruleze pe hardware destinat consumatorilor, prin cuantizarea modelelor și convertirea ponderilor în variante mai ușoare, precum GGUF, AWQ, PTQ, EXL2 sau MLX, orientat către produsele Apple.

Deși acestea nu sunt la fel de performante ca modelele originale, complete (care ajung, de obicei, să fie oferite comercial de diverse ferme de GPU-uri), măcar se află sub controlul utilizatorului și pot fi personalizate pentru acesta într-un mod imposibil în cazul modelului „mai bun”.

După bunul plac

Unele dintre aceste utilizări sunt, fără îndoială, legitime și, de obicei, se încadrează în termenii licenței originale, cum ar fi ajustarea fină, prin care ponderile unui model sunt orientate în mod specific către o sarcină sau un domeniu-țintă pe care utilizatorul l-a introdus în model. În astfel de cazuri, dacă spațiul de pe hard disk permite, se pot ajusta fin chiar și mai multe instanțe ale unui model open-source pentru o varietate de sarcini, ca o suită de instrumente tradiționale dedicate, în locul „briceagului elvețian” reprezentat de modelul original cu toate ponderile.

În plus, modelele cu setări compatibile, dar antrenate pe date diferite, pot fi îmbinate; alternativ, se pot adăuga capabilități suplimentare unui model prin filtre LoRA ușoare, fără riscul de a compromite capabilitățile originale ale modelului de bază prin ajustare fină.

Totuși, modificarea care îi interesează cel mai mult pe mulți utilizatori și care a devenit mai ușor de realizat decât oricare dintre metodele de mai sus este eliminarea filtrelor de siguranță menționate anterior, sau a mecanismelor de protecție.

Deși acest lucru permite, într-adevăr, generarea de conținut pornografic și dezvoltarea de programe malware, elimină și ceea ce mulți utilizatori consideră a fi un set de restricții excesiv de sever și adesea predispus la erori.

Unul dintre numeroasele exemple amuzante în care Llama-2-7b-chat refuză cereri rezonabile din motive de siguranță, disponibil la adresa URL a sursei. Sursă

Heretic

În cazul Heretic, software-ul care a revoluționat recent decenzurarea modelelor, este posibil chiar să reducem nivelul de exprimare „înflorită” și de prolixitate spre care tind modelele.

Heretic începe să de-cenzureze gpt-oss, deși, trebuie spus, aici rulează pe o mașinărie cu specificații foarte bune, puțin probabil să se găsească în locuința unui consumator obișnuit — însă poate fi închiriată ieftin online pentru durata necesară procesului. Sursă

Mai important, Heretic — care caută automat o procedură de abliterare ce suprimă refuzurile, reducând în același timp la minimum daunele aduse comportamentului inițial al modelului — transformă sarcina relativ dificilă de de-cenzurare într-o simplă comandă, din perspectiva utilizatorului final.

După cum se vede în captura de ecran de mai sus, Heretic funcționează mai bine cu o placă GPU mai puternică decât cele care se găsesc, probabil, în locuințele consumatorilor; totuși, utilizatorii nu trebuie să-l ruleze pe propriul echipament, după cum nici în 2002 nu trebuiau să spargă personal software-ul. Ca în vremurile warez, furnizorii din amonte ai scenei — entuziaști ocazionali, de regulă necomerciali — care au acces la un astfel de echipament sau sunt dispuși să cheltuiască niște tokenuri pentru această sarcină, efectuează jailbreak-ul și lansează modelul de-cenzurat în comunitate.

În vizor

Când o acțiune digitală „discutabilă” încetează să mai fie dificilă, de obicei acest lucru se întâmplă în urma unui salt brusc al capabilităților (gândiți-vă la Napster sau la PopCornTime), care amplifică dintr-odată atât activitatea în sine, cât și interesul „oficial” de a o limita.

Pe fondul popularității tot mai mari și al ușurinței în utilizare a unor platforme precum Ollama, Heretic începe să facă accesul la modele de-cenzurate accesibil utilizatorilor fără cunoștințe tehnice, chiar dacă o metodă cu adevărat „imposibil de folosit greșit” nu este încă disponibilă.

Iar asta mă aduce înapoi la întrebarea de mai devreme: constituie sau nu această activitate o „problemă”? Un articol apărut ieri pe Arxiv îmi sugerează, pe baza unor tendințe foarte recente de restrângere a libertăților consumatorilor de tehnologie și de înăsprire a măsurilor împotriva acestora, că de-cenzurarea va atrage tot mai multă atenție, ceea ce va duce la mai multe inițiative legislative restrictive în întreaga lume.

Noul articol, un raport al 10a Labs, prezintă mișcarea de de-cenzurare într-o lumină negativă și oferă obișnuitul număr redus de cazuri de abuz care, după cum sugerează istoria și prefigurează tendințele actuale, vor duce la restricții.

Studiul urmărește ce se întâmplă după lansarea și redistribuirea modelelor de-cenzurate și a identificat 1.643 de aplicații GitHub care integrează, recomandă sau selectează implicit modele necenzurate.

Modelele în cauză variază de la chatboturi de uz general și instrumente de procesare a documentelor până la jocuri de rol și povești cu conținut explicit, servicii cu conținut explicit, instrumente de hacking și securitate ofensivă, precum și aplicații de fraudă și generatoare de malware; potrivit studiului, 25% dintre lansări au fost clasificate drept „explicit rău-intenționate”:

Prezentare generală a modului în care sunt folosite modelele AI necenzurate după lansare. Studiul a urmărit 1.643 de aplicații GitHub care integrează, recomandă sau selectează implicit modele cărora li s-au eliminat restricțiile de siguranță și a constatat că 37% erau chatboturi necenzurate de uz general, în timp ce instrumentele de securitate cibernetică și cele de procesare a documentelor reprezentau câte 16%, alături de categorii mai restrânse, precum asistenții vocali, jocurile de rol cu conținut explicit, scrierea creativă, programarea și alte utilizări. Articolul a constatat că aproximativ 25% dintre aplicațiile identificate puteau fi clasificate drept „explicit rău-intenționate”. Sursă

Având în vedere restricțiile instituite recent de Regatul Unit privind accesul la internet (și intenția suspendată acum de a restricționa și accesul VPN care permite ocolirea acestora); cerința introdusă de California pentru 2027, potrivit căreia majoritatea sistemelor de operare trebuie să colecteze intervalele de vârstă ale utilizatorilor și să le furnizeze aplicațiilor; mecanismul UE de verificare a vârstei pentru accesul la conținut online pentru adulți; și interdicția Australiei privind conturile de pe rețelele sociale pentru persoanele sub 16 ani, noul articol pare să se înscrie într-un tipar în care atenția sporită duce, în cele din urmă, la o supraveghere și o reglementare mai stricte și, posibil, la interdicții selective sau totale.

Aici nu s-ar putea întâmpla

Ba da, s-ar putea întâmpla cu siguranță aici, parțial din cauza procentului ridicat de utilizări rău-intenționate, estimat de autorii noului studiu și, se poate susține, deoarece controalele ar impune restricții suplimentare asupra tendinței tot mai răspândite de a rula AI local, care ar putea fi percepută de guverne și instituții drept o amenințare — cu atât mai mult când modelele sunt eliberate de frâu.

Prezentând activitățile de eliminare a cenzurii drept o modalitate de a „facilita” generarea de conținut NSFW și pirateria informatică rău intenționată, eliminarea cenzurii poate fi descrisă în mod înșelător ca o chestiune cu doar două opțiuni: dacă poate fi folosită în scopuri nocive, atunci trebuie reglementată. În practică, nu pare să existe nicio modalitate realistă de a reglementa o asemenea funcționalitate în niciun fel , în afara interzicerii ei totale, deoarece există foarte multe cazuri de utilizare posibile.

De asemenea, în situațiile în care eliminarea cenzurii unui LLM ar putea permite unui model să genereze, de exemplu, ficțiune de tip CSAM, reglementarea restrictivă ar părea o soluție de la sine înțeleasă, deoarece oricine i s-ar opune ar putea fi prezentat tacit drept susținător al utilizărilor nefaste ale unui model decenzurat, și nu al celor rezonabile.

Această perspectivă ignoră faptul că un model reglat fin sau modificat cu LoRA poate produce mult mai eficient rezultate într-un anumit domeniu pe care utilizatorul dorește să îl impună, deoarece ponderile de bază ale modelului ajung să fie atât de deformate în favoarea sarcinii, încât subminează complet oricum orice protecții încorporate în procesul de antrenare.

Totul ține de ușurința în utilizare

Ușurința în utilizare este cea care determină adoptarea la scară largă, iar adoptarea la scară largă este cea care generează presiuni asupra guvernelor pentru a legifera (fie din partea grupurilor de presiune ale opiniei publice, a lobbyiștilor din industrie, fie prin presiuni interguvernamentale).

Deși reglarea fină și LoRA pot oferi aproape cu siguranță rezultate mai bine direcționate decât simpla deblocare a unui model FOSS de bază, aceste metode necesită un anumit grad de disciplină și efort pentru a fi puse în aplicare.

Când rularea locală a unui model decenzurat/cuantizat va ajunge să se facă efectiv în doar câteva clicuri (deoarece utilizatorul va descărca aproape sigur un model „eliberat” în prealabil, în loc să îl deblocheze singur cu Heretic), această activitate va ieși din obscuritatea lumii pasionaților de tehnologie și va intra în spațiul public, unde abuzurile sale vor deveni probabil subiecte de dispută politică.

În vara aceasta, NVIDIA a condus un grup de parteneri tehnologici de prim rang în demersul de a preveni restricțiile guvernamentale asupra modelelor open source, printr-o scrisoare deschisă care susține din nou că abuzurile unei minorități nu ar trebui să pună în pericol potențialul unei tehnologii de a aduce beneficii generale. În ultimii ani, însă, această poziție s-a dovedit nepopulară.

* Se pune frecvent la îndoială dacă creatorii de modele sunt sinceri în dorința declarată de a restricționa activitatea utilizatorilor, iar măsurile de protecție sunt chiar respinse drept „teatru”.