Miten synteettinen data vaikuttaa tekoälyhallusinaatioihin?

Vaikka synteettinen data on voimakas työkalu, se voi vähentää tekoälyhallusinaatioita vain tiettyjen olosuhteiden vallitessa. Melkein jokaisessa muussa tapauksessa se lisää niitä. Miksi näin on? Mitä tämä ilmiö merkitsee niille, jotka ovat investoineet siihen?

Miten synteettinen data eroaa oikeasta datasta?

Synteettinen data on tietoa, jota luodaan tekoälyllä. Sen sijaan, että se kerätään todellisista maailman tapahtumista tai havainnoista, se tuotetaan keinotekoisesti. Se kuitenkin muistuttaa alkuperäistä tarpeeksi, jotta siitä voidaan tuottaa tarkka ja relevantti tulos. Tämä on ainakin idea.

Tekoälyinsinöörit kouluttavat generatiivisen algoritmin oikeasta relaatiotietokannasta. Kun heille annetaan käsky, se tuottaa toisen joukon, joka muistuttaa ensimmäistä, mutta ei sisällä mitään aitoa tietoa. Vaikka yleiset trendit ja matemaattiset ominaisuudet säilyvät, on riittävästi melua maskata alkuperäiset suhteet.

Tekoälyluotu tietojoukko menee deidentifioinnin ohi, jäljitellen kenttien välisiä suhteita eikä vain korvaa kenttiä vastaavilla vaihtoehtoilla. Koska siinä ei ole tunnistettavia yksityiskohtia, yritykset voivat käyttää sitä kiertääkseen tietosuojaa ja tekijänoikeusmääräyksiä. Tärkeämpää on, että he voivat vapaasti jakaa tai levittää sitä ilman pelkoa tietoturvaloukkauksesta.

Synteettistä tietoa käytetään kuitenkin useammin täydentämiseen. Yritykset voivat käyttää sitä rikastamaan tai laajentamaan otoskoja, jotka ovat liian pieniä, jotta tekoälyjärjestelmät voivat toimia tehokkaasti.

Vähentääkö synteettinen data tekoälyhallusinaatioita?

Joskus algoritmit viittaavat olemattomiin tapahtumiin tai antavat loogisesti mahdottomia ehdotuksia. Nämä hallusinaatiot ovat usein järjettömiä, harhaanjohtavia tai virheellisiä. Esimerkiksi suuri kielen malli voi kirjoittaa ohjeartikkelin leijonien kesyttämisestä tai lääkäriksi tulemisesta 6-vuotiaana. Ne eivät kuitenkaan ole aina näin äärimmäisiä, mikä voi tehdä niiden tunnistamisen haasteelliseksi.

Jos synteettistä dataa käytetään oikein, se voi lieventää näitä tapahtumia. Relevantti ja aito koulutusaineisto on perusta mille tahansa mallille, joten on järkevää olettaa, että mitä enemmän yksityiskohtia joku on, sitä tarkempi mallin tulokset ovat. Synteettinen tietojoukko mahdollistaa skaalautuvuuden, jopa niissä sovelluksissa, joissa on rajoitettu määrä julkista tietoa.

Debiasing on toinen tapa, jolla synteettinen tietokanta voi vähentää tekoälyhallusinaatioita. MIT Sloan School of Managementin mukaan se voi auttaa osoittamaan bias, koska se ei ole rajoitettu alkuperäiseen otoksiin. Ammattilaiset voivat käyttää realistisia yksityiskohtia täyttämään aukkoja, joissa tietyt alaryhmät ovat aliedustettuina tai yliedustettuina.

Miten tekoälydata tekee hallusinaatioista pahempia

Koska älykkäät algoritmit eivät voi järkeillä tai ymmärtää tietoa, ne ovat alttiita hallusinaatioille. Generatiiviset mallit — erityisesti esikoulutetut suuret kielen mallit — ovat erityisen haavoittuvaisia. Jollain tavoin tekoälytiedot lisäävät ongelmaa.

Bias-amplifikaatio

Kuten ihmiset, tekoäly voi oppia ja toistaa biasia. Jos synteettinen tietokanta yliedustaa joitain ryhmiä ja aliedustaa muita — mikä on huolestuttavan helppoa tehdä vahingossa — sen päätöksenteon logiikka voi vääristyä, vaikuttaen kielteisesti tulosten tarkkuuteen.

Sama ongelma voi ilmetä, kun yritykset käyttävät tekoälytietoa poistamaan todelliset biasit, koska se ei enää heijasta todellisuutta. Esimerkiksi, koska yli 99% rintasyövistä tapahtuu naisilla, tekoälytiedon käyttäminen edustuksen tasapainottamiseen voisi vääristää diagnosoita.

Leikkaavat hallusinaatiot

Leikkaavuus on sosiologinen viitekehys, joka kuvailee, miten demografiat kuten ikä, sukupuoli, rotu, ammatti ja luokka leikkaavat toisiaan. Se analysoi, miten ryhmien sosiaaliset identiteetit johtavat yhdistettyihin syrjintään ja etuoikeuksiin.

Kun generatiivinen malli pyydetään luomaan tekoälytietoa siitä, mihin se on koulutettu, se voi luoda yhdistelmiä, joita ei ollut alkuperäisessä tai jotka ovat loogisesti mahdottomia.

Ericka Johnson, sukupuolen ja yhteiskunnan professori Linköpingin yliopistossa, työskenteli tekoälytieteilijän kanssa osoittamaan tämän ilmiön. He käyttivät generatiivista vastakkainmallia luomaan synteettisiä versioita Yhdysvaltain väestönlaskentatilastojen 1990-luvun alusta.

He huomasivat heti ilmeisen ongelman. Synteettisessä versiossa oli luokat “vaimo ja sinkku” ja “ei koskaan naimisissa olevat aviomiehet”, jotka molemmat olivat leikkaavia hallusinaatioita.

Ilman oikeaa kuraattorin toimintaa, kopioitujen tietokantojen tietojoukko edustaa aina enemmistöryhmiä ja aliedustaa — tai jopa poistaa — vähemmistöryhmät tietokannoista. Reunatapaukset ja poikkeukset voidaan jättää kokonaan huomioimatta muiden suosittujen trendien hyväksi.

Mallin romahdus

Liian suuri riippuvuus tekoälymallien kuvaamista ja trendeistä johtaa mallin romahdukseen — jossa algoritmin suorituskyky heikkenee dramaattisesti, kun se tulee vähemmän sopeutuvaksi todellisiin havaintoihin ja tapahtumiin.

Tämä ilmiö on erityisen ilmeinen seuraavan sukupolven generatiivisessa tekoälyssä. Toistuvasti käyttämällä tekoälytietoa koulutukseen johtaa itseään syövään silmukkaan. Yksi tutkimus osoitti, että niiden laatu ja muisti heikkenevät jatkuvasti, kun niitä ei ole riittävästi ajantasaisia, todellisia lukuja kussakin sukupolvessa.

Ylioppiminen

Ylioppiminen on liian suuri riippuvuus koulutusaineistosta. Algoritmi suorittaa hyvin aluksi, mutta se hallusinoi, kun sille esitetään uusia datakohtia. Synteettinen tieto voi lisätä tätä ongelmaa, jos se ei heijasta todellisuutta.

Jatkuvaan synteettisen datan käytön vaikutukset

Synteettinen datamarkkina on kasvamassa. Yritykset tässä niukassa teollisuudessa keräsivät noin 328 miljoonaa dollaria vuonna 2022, mikä on 518%:n kasvu 18 kuukaudessa. On huomattava, että tämä on vain julkisesti tunnettu rahoitus, mikä tarkoittaa, että todellinen määrä voi olla vielä suurempi. On turvallista sanoa, että yritykset ovat erittäin panostaneet tähän ratkaisuun.

Jos yritykset jatkavat tekoälytietojen käyttöä ilman oikeaa kuraattorin toimintaa ja debiasingia, mallin suorituskyky heikkenee vähitellen, mikä voi pilata heidän tekoälysijoituksensa. Tulokset voivat olla vakavampia, riippuen sovelluksesta. Esimerkiksi terveydenhuollossa hallusinaatioiden lisääntyminen voi johtaa väärään diagnosointiin tai virheellisiin hoitosuunnitelmiin, mikä voi johtaa heikkompiin potilastuloksiin.

Ratkaisu ei vaadi paluuta oikeaan dataan

Tekoälyjärjestelmät tarvitsevat miljoonia, ellei miljardeja, kuvia, tekstejä ja videoita koulutukseen, joista suuri osa kerätään julkisista verkkosivustoista ja kootaan massiivisiin, avoimiin tietokantoihin. Valitettavasti algoritmit kuluttavat tätä tietoa nopeammin kuin ihmiset voivat sitä tuottaa. Mitä tapahtuu, kun ne oppivat kaiken?

Liiketoimintajohtajat ovat huolissaan siitä, että he osuvat “dataseinään” — pisteeseen, jossa kaikki internetin julkiset tiedot on loppunut. Se saattaa olla lähempänä kuin he ajattelevat.

Vaikka sekä keskivertaisen verkkosivun tekstimäärä että internetin käyttäjien määrä kasvavat 2-4%:lla vuodessa, algoritmit loppuvat laadukkaasta datasta. Vain 10-40% voidaan käyttää koulutukseen ilman suorituskyvyn heikentymistä. Jos trendit jatkuvat, ihmisten tuottama julkisen tiedon varasto voi loppua vuoteen 2026 mennessä.

Todennäköisesti tekoälyala voi osua dataseinään vielä aikaisemmin. Viime vuosien generatiivisen tekoälyn buumi on lisännyt jännitteitä tiedon omistajuuden ja tekijänoikeusrikkomusten ympärillä. Enemmän verkkosivujen omistajat käyttävät Robots Exclusion Protocolia — standardia, joka käyttää robots.txt-tiedostoa estämään verkkoroboteja — tai tekevät selväksi, että heidän sivunsa on estetty.

Vuonna 2024 julkaistu tutkimus, jota johti MIT:n johtama tutkimusryhmä, paljasti, että Colossal Cleaned Common Crawl (C4) -tietokanta — suuren mittakaavan verkkokävelykorpus — rajoitukset ovat kasvamassa. Yli 28% C4:n eniten aktiivisista ja kriittisistä lähteistä oli täysin rajoitettu. Lisäksi 45% C4:stä on nyt palvelun ehtojen mukaan estetty.

Jos yritykset kunnioittavat näitä rajoituksia, todellisten maailman faktien tuoreus, relevanttiys ja tarkkuus heikkenevät, mikä pakottaa heidät turvautumaan tekoälytietoihin. Heillä ei ehkä ole muuta valintaa, jos oikeudet katsovat, että mikä tahansa vaihtoehto on tekijänoikeusrikkomus.

Synteettisen datan ja tekoälyhallusinaatioiden tulevaisuus

Kun tekijänoikeuslakia modernisoidaan ja enemmän verkkosivujen omistajat piilottavat sisältönsä verkkoroboteilta, tekoälytietojen luominen tulee yhä suositummaksi. Organisaatioiden on valmistauduttava hallusinaatioiden uhkaan.