Kuinka kauan kestää, ennen kuin tekoälymallien sensuurin purkamiseen puututaan todella?

Jos olet tarpeeksi vanha muistamaan warez-piirit suunnilleen vuosina 1995–2010, jolloin valtavat kokoelmat murrettuja ohjelmistoja ja kopioituja elokuvia (jotka oli ostettu kadulta tukkuhintaan tai joita harrastelijapiraatit olivat koonneet, kun nopea laajakaista mahdollisti suurten tiedostomäärien lataamisen) kertyivät useille ääriään myöten täysille DVD-kokoelmille, avoimen lähdekoodin tekoälymallien kehittyvä ”sensuurista vapautettujen” versioiden kenttä saattaa tuntua tutulta.

Ohjelmistojen ja elokuvien katukaupan ”kultakaudelta”. Kuva: Shankar.s. ”Pirated DVDs at PP street market” – Lähde / Lisenssi

Aikoinaan, ennen kuin ohjelmistojen vuokraamisesta tuli yleinen kuluttajapalvelu, pieni mutta eliittiin kuuluva joukko ”scene”-ohjelmistoharrastajia alkoi murtaa sovelluksia, joita levitettiin sitten warez-uutisryhmissä ja myöhemmin torrent-ryhmissä. Rajoitusten kiertäminen saattoi olla vaivalloista tai helppoa, mutta kun murrettu ohjelmisto oli kerran päässyt leviämään, sitä ei yleensä enää saanut poistettua.

Avoimen lähdekoodin suurille kielimalleille (LLM) käy nyt samoin: niistä poistetaan rutiininomaisesti ja laajassa mittakaavassa koulutusvaiheessa sisäänrakennetut turvasuodattimet. Tämän jälkeen sensuurista vapautettuja malleja jaetaan niin monissa paikoissa, ettei ”murretun” mallin alkuperäisen lähteen sulkeminenkaan vaikuta niiden saatavuuteen.

Hyväntekijä vai pahantekijä

Kysymys kuuluu: millaisessa valossa haluat nähdä tämän toiminnan? Warez-piireistä poiketen kukaan ei menetä tulojaan yhtä suoraan kuin pienet ohjelmistokehittäjät saattoivat menettää 20–30 vuotta sitten.

Alkuperäisiä lisenssiehtoja rikotaan näissä tapauksissa* varmasti usein. Toisin kuin generatiivisen tekoälyn mallien tuottajien, kuten Black Forest Labsin, osittain julkaistujen painojen kohdalla, alkuperäiset jakelijat eivät kuitenkaan käytä ”heikompia” versioita houkutellakseen asiakkaita hankkimaan parempia, vain API:n kautta käytettäviä malleja, vaan julkaisevat täydet mallit kaikkien saataville.

Useimmissa tapauksissa tuskin kukaan pystyy ajamaan näitä ensimmäisiä julkaisuversioita paikallisesti, sillä niissä on aivan liian paljon parametreja jopa hyvin varusteltujen näytönohjainten, kuten 16–24 Gt:n VRAM-muistilla varustettujen korttien, kapasiteettiin nähden.

Siksi alkuperäiset julkaisuversiot muunnetaan nopeasti kuluttajalaitteilla toimiviksi, pienemmiksi versioiksi mallin kvantisoinnin avulla. Samalla painot muunnetaan kevyempiin muotoihin, kuten GGUF, AWQ, PTQ, EXL2 tai Applen laitteille suunnattuun MLX-muotoon.

Vaikka nämä mallit eivät ole yhtä suorituskykyisiä kuin alkuperäiset, täysikokoiset versiot (joita tarjotaan yleensä kaupallisesti monilla GPU-palvelintiloilla), ne ovat sentään käyttäjän hallinnassa, ja niitä voi mukauttaa kyseiselle käyttäjälle tavoilla, joihin ”parempi” malli ei taivu.

Juuri sellaiseksi kuin haluat

Osa mukautustavoista on selvästi hyväksyttäviä ja yleensä alkuperäisen lisenssin sallimia. Tällainen on esimerkiksi hienosäätö, jolla mallin painot saadaan suuntautumaan tiettyyn tehtävään tai aihealueeseen, jonka käyttäjä on syöttänyt malliin. Jos tallennustilaa riittää, avoimen lähdekoodin mallista voi hienosäätää useita versioita erilaisiin tehtäviin, jolloin käytössä on joukko erikoistuneita perinteisiä työkaluja alkuperäisen, täysipainoisen mallin ”linkkuveitsen” sijaan.

Lisäksi malleja, joiden asetukset ovat yhteensopivia mutta joiden koulutusdata on erilaista, voidaan yhdistää. Malliin voidaan myös lisätä uusia ominaisuuksia kevyillä LoRA-suodattimilla ilman, että hienosäätö vaarantaisi perusmallin alkuperäisten ominaisuuksien säilymisen.

Monia käyttäjiä kiinnostaa kuitenkin eniten muutos, joka on helpompi toteuttaa kuin mikään edellä mainituista: aiemmin mainittujen turvasuodattimien eli suojakaiteiden poistaminen.

Tämä toki mahdollistaa myös pornografisen sisällön tuottamisen ja haittaohjelmien kehittämisen, mutta samalla se poistaa rajoitukset, joita monet käyttäjät pitävät liian tiukkoina ja usein virheellisinä.

Yksi monista huvittavista esimerkeistä, joissa Llama-2-7b-chat kieltäytyy turvallisuussyistä asiallisista pyynnöistä. Esimerkki on saatavilla lähdeosoitteessa. Lähde

Heretic

Heretic-ohjelmistolla, joka on viime aikoina mullistanut mallien sensuurin purkamisen, voi myös vähentää mallien taipumusta käyttää kukkaista ja laveasanaista proosaa.

Heretic ryhtyy poistamaan gpt-oss:n sensurointia, vaikka tässä sitä ajetaan myönnettävästi erittäin tehokkaalla tietokoneella, jota tuskin löytyy keskivertokuluttajan kotoa. Sellaisen voi kuitenkin vuokrata edullisesti verkosta prosessin vaatimalle ajalle. Lähde

Vielä tärkeämpää on, että Heretic etsii automaattisesti abliteraation, joka vaimentaa kieltäytymisiä ja samalla minimoi mallin alkuperäiseen toimintaan kohdistuvat muutokset. Näin se madaltaa sensuroinnin poistamisen verrattain vaativan tehtävän loppukäyttäjän näkökulmasta yhdeksi ainoaksi komennoksi.

Kuten yllä olevasta kuvakaappauksesta näkyy, Heretic hyötyy todennäköisesti tehokkaammasta näytönohjaimesta kuin mitä kuluttajan kotona yleensä on. Käyttäjien ei kuitenkaan tarvitse suorittaa sitä kotilaitteistolla, sen enempää kuin heidän piti itse murtaa ohjelmistoja vuonna 2002. Warez-aikojen tapaan alan yhteisön toimijat – harrastelijat, yleensä ei-kaupalliset – joilla on käytössään tällainen laitteisto tai halua käyttää ongelman ratkaisemiseen hieman tokeneita, tekevät jailbreakin ja julkaisevat sensuroinnista vapautetun mallin yhteisön saataville.

Tähtäimessä

Kun ”kyseenalaisen” digitaalisen toiminnan harjoittaminen muuttuu helpoksi, taustalla on yleensä yhdessä yössä tapahtuva harppaus kyvykkyydessä (kuten Napster tai PopCornTime), joka kasvattaa äkillisesti sekä itse toiminnan laajuutta että ”virallista” kiinnostusta sen rajoittamiseen.

Hereticin ja Ollaman kaltaisten alustojen kasvavan suosion ja helppokäyttöisyyden ansiosta sensuroinnista vapautettujen mallien käyttö alkaa olla myös muiden kuin teknisten käyttäjien ulottuvilla, vaikka täysin ”idioottivarmaa” menetelmää ei vielä olekaan.

Tämä palauttaa minut aiempaan kysymykseeni siitä, onko tässä toiminnassa kyse ”ongelmasta”. Eilen ArXivissa julkaistu artikkeli viittaa siihen, että sensuroinnin poistaminen saa todennäköisesti yhä enemmän huomiota. Päätelmäni perustuu viimeaikaisiin suuntauksiin, joissa teknologiaan liittyviä kuluttajanvapauksia on kavennettu ja rajoituksia kiristetty. Seurauksena voi olla, että rajoittavaa lainsäädäntöä säädetään yhä useammin eri puolilla maailmaa.

10a Labsin raportti, uusi tutkimus, esittää sensuroinnin poistamiseen liittyvän liikkeen kielteisessä valossa ja nostaa esiin tavanomaisen pienen joukon väärinkäyttötapauksia, jotka historia antaa ymmärtää ja nykyiset suuntaukset ennakoivat johtavan rajoituksiin.

Tutkimuksessa selvitettiin, mitä tapahtuu sensuroinnista vapautettujen mallien julkaisun ja edelleen levittämisen jälkeen. Siinä tunnistettiin 1 643 GitHub-sovellusta, jotka integroivat sensuroimattomia malleja, suosittelevat niitä tai käyttävät niitä oletuksena.

Kyseiset mallit vaihtelevat yleiskäyttöisistä chatboteista ja asiakirjojen käsittelytyökaluista NSFW-roolipeleihin ja tarinankerrontaan, eksplisiittistä sisältöä tarjoaviin palveluihin, hakkerointi- ja hyökkäysturvatyökaluihin sekä petossovelluksiin ja haittaohjelmien luontityökaluihin. Tutkimuksessa 25 % julkaisuista luokiteltiin ”nimenomaisesti haitallisiksi”:

Erittely siitä, miten sensuroimattomia tekoälymalleja käytetään niiden julkaisun jälkeen. Tutkimuksessa kartoitettiin 1 643 GitHub-sovellusta, jotka integroivat malleja, joiden turvallisuusrajoitukset on poistettu, suosittelevat niitä tai käyttävät niitä oletuksena. Niistä 37 % oli yleiskäyttöisiä, sensuroimattomia chatbotteja. Kyberturvallisuustyökalujen ja asiakirjojen käsittelytyökalujen osuus oli kummankin 16 %. Pienempiä käyttökategorioita olivat ääniavustajat, NSFW-roolipelit, luova kirjoittaminen, ohjelmointi ja muut käyttötavat. Tutkimuksessa todettiin, että noin 25 % tunnistetuista sovelluksista voitiin luokitella ”nimenomaisesti haitallisiksi”. Lähde

Kun otetaan huomioon Yhdistyneen kuningaskunnan äskettäin käyttöön ottamat rajoitukset verkkokäytölle ja sen nyt keskeytetty aikomus rajoittaa myös niiden kiertämiseen käytettävien VPN-yhteyksien käyttöä, Kalifornian vuonna 2027 voimaan tuleva vaatimus, jonka mukaan useimpien käyttöjärjestelmien on kerättävä käyttäjien ikäryhmät ja ilmoitettava ne sovelluksille, EU:n järjestelmä iän todentamiseksi aikuisille tarkoitetun verkkosisällön käyttöä varten sekä Australian kielto alle 16-vuotiaiden sosiaalisen median tileille, uusi tutkimus vaikuttaa sopivan kaavaan, jossa lisääntynyt huomio johtaa lopulta valvonnan ja sääntelyn kiristymiseen ja mahdollisesti valikoituihin tai täydellisiin kieltoihin.

Tätä ei voisi tapahtua täällä

Kyllä voisi, etenkin siksi, että uuden tutkimuksen tekijöiden arvion mukaan haitallisen käytön osuus on suuri. Lisäksi rajoitukset asettaisivat todennäköisesti uusia esteitä kasvavalle suuntaukselle, jossa tekoälyä käytetään paikallisesti. Hallitukset ja instituutiot saattavat nähdä sen uhkana – varsinkin silloin, kun malleilta on poistettu niiden rajoitteet.

Kuvaamalla sensuurin poistamista NSFW-sisällön tuottamisen ja haitallisen hakkeroinnin ”mahdollistamisena” voidaan sensuurin poistaminen esittää virheellisesti kaksijakoisena kysymyksenä: koska sitä voidaan käyttää pahaan, sitä on säänneltävä. Käytännössä tällaista toimintoa ei tunnu olevan realistista tapaa säännellä lainkaan muuten kuin kieltämällä se kokonaan, sillä mahdollisia käyttötapauksia on niin paljon.

Myös tilanteissa, joissa LLM:n sensuurin poistaminen voisi antaa mallille mahdollisuuden tuottaa esimerkiksi lapsiin kohdistuvaa seksuaalista hyväksikäyttöä kuvaavaa fiktiota (CSAM), rajoittavan sääntelyn hyväksyminen vaikuttaisi itsestään selvältä, sillä sen vastustajat voitaisiin huomaamatta leimata sensuurista vapautetun mallin pahantahtoisen käytön kannattajiksi sen kohtuullisten käyttötapojen sijaan.

Tämä sivuuttaa sen, että hienosäädetty tai LoRA-menetelmällä muokattu malli pystyy tuottamaan käyttäjän haluamaa sisältöä tietyllä aihealueella paljon tehokkaammin, sillä mallin peruspainot vääristyvät tehtävän suuntaan niin voimakkaasti, että ne mitätöivät täysin malliin alun perin sisällytetyt suojaukset joka tapauksessa.

Helppokäyttöisyydestä

Helppokäyttöisyys saa aikaan laajamittaisen käyttöönoton, ja juuri laajamittainen käyttöönotto synnyttää hallituksiin kohdistuvaa painetta säätää lakeja – painetta voivat aiheuttaa kansalaisryhmät, alan lobbaajat tai valtioiden välinen vaikuttaminen.

Vaikka hienosäädöllä ja LoRA-menetelmillä voidaan lähes varmasti saavuttaa paremmin kohdennettuja tuloksia kuin vain avaamalla FOSS-perusmalli, näiden menetelmien toteuttaminen vaatii tietyn määrän kurinalaisuutta ja vaivannäköä.

Kun sensuurista vapautetun ja kvantisoidun mallin paikallisesta käytöstä tulee todella vain muutaman napsautuksen asia – sillä käyttäjä lataa lähes varmasti valmiiksi sensuurista vapautetun mallin sen sijaan, että murtaisi sen itse Hereticillä – toiminta poistuu nörttipiirien hämärästä ja siirtyy julkisuuteen, missä sen väärinkäytöksistä tulee todennäköisesti poliittisia kiistakapuloita.

Tänä kesänä NVIDIA johti joukkoa teknologia-alan raskaan sarjan kumppaneita pyrkimyksessä ehtiä hallitusten avoimen lähdekoodin malleihin kohdistamien rajoitusten edelle. Tämän tavoitteen puolesta esitettiin avoin kirje, jossa perustellaan jälleen, ettei teknologian väärinkäyttö pienen vähemmistön toimesta saisi vaarantaa sen mahdollisia laajoja hyötyjä. Tämä kanta on kuitenkin osoittautunut viime vuosina epäsuosituksi.

* Mallien tekijöiden vilpittömyys heidän ilmoittamassaan halussa rajoittaa käyttäjien toimintaa kyseenalaistetaan usein, ja suojatoimet on jopa leimattu ”pelkäksi teatteriksi”.