Tekoälyssä seinät eivät ole todellisia: Datan ja turvallisuuden uudelleenarviointi

Joitakin vaikeimmista tekoälyn ongelmista ovat, että 1) “olemme loppumassa datasta” 2) tekoäly ei “skaalaudu taloudellisesti” 3) agentit voivat kääntyä kapinallisiksi ja 4) tekoälyt “unohtavat katastrofaalisesti”, kun yritämme muuttaa niitä.

Nämä ongelmat saattavat vaikuttaa vaikeilta, mutta meidän tarvitsee tarkastella niitä oikeasta näkökulmasta.

Joten puhutaan siitä. Ensinnäkin, emme ole loppumassa dataan. Dataa ei ole koskaan täysin hyödynnetty.

Tekoälyjohtajat uskovat, että data on loppumassa, joten he yrittävät saada mallien tuottamaan uutta dataa ja kouluttamaan itseään. Mutta kun näin tehdään, mallien kyvyt romahtavat.

Miksi? No, voit ajatella sen niin: “mitä oppisin keskustelussa, jos jokainen puhuja olisi kaikkien klooni?” Vastaus on ei juuri paljoa; se luo kaikukammion. Mallit romahtavat, koska se on pohjimmiltaan peilikuvien sali: kun kukaan ei vastaa kasvojesi ilmeisiin paitsi sinä itse, ihmiset eivät tiedä, mitä tunteellista merkitystä he viestittävät. Se on hyvin samanlaista kuin “Jos puu kaatuu metsässä, kuulostaako se?” Vastaus on ei.

So, how do we fix that?

Katsotaan dataa, joka meillä on. Onko sitä todella hyödynnetty täysin?

Ei.

Kun tietojenkäsittelytieteilijä tai malli lukee jotain, se pyrkii poimimaan kirjaimellisen merkityksen. Tekstin lukemiseen, omaksumiseen, analysointiin ja ekstrapolointiin on yli viisikymmentä erilaista tapaa.

Tässä on mitä tarkoitan: Kirja, joka on otettu tietokannaksi, on pelkkää tekstiä. Vain tekstiä. Tekoäly tuntee sisällön tekstin termeistä. Mutta se ei ole varsinaisesti “lukemassa” sitä ymmärtääkseen, miten tieto yhdistyy. Vaikka se lukisi sen peräkkäin, se ei tiedä, luetaanko se viisauden tuottamiseksi; yhdistetäänkö se muihin samankaltaisiin abstrakteihin ideoihin; muutetaanko sen oma käsitteellinen ymmärrys ympäröivästä maailmasta; tai käytetäänkö sitä taustatietona toisen tehtävän kontekstina, jne.

Tämä ei edes koske datan tarkastelua sen historiallisesta kontekstista, diskurssianalyysistä, oikeudellisesta analyysistä, poliittisesta analyysistä, farmakologisesta merkityksestä, lääketieteellisestä merkityksestä, kulttuurisesta merkityksestä, teoreettisista implikaatioista, moraalisista implikaatioista jne.

Sanonnan mukaan on “äärettömän monta hattua”, ja olemme saaneet tekoälyn käyttämään vain yhtä. Tämä tarkoittaa, että tekoäly on kehittänyt hyvin yksittäisen, erityisen älykkyyden – sellaisen, jonka kehittäjä kehittäisi, jos tietojenkäsittelytieteilijä lukisi kirjan.

Tämä johtaa keskusteluun datan dimensioisuudesta. Datalla on monia ulottuvuuksia, sillä sen objektiiviset päätelmät riippuvat sovelluksesta. Jos katsot tase-erää ja haluat tietää, kuinka paljon juoksevaa aikaa sinulla on jäljellä, luet sen eri tavalla kuin jos haluat ymmärtää, onko startup kannattava. Kun malli lukee tekstiä pelkästään poimiakseen kirjaimellisia faktoja, se rakentaa tasaisen kartan suhteista. Mutta kun ohjaat mallia lukemaan täsmälleen saman tekstin tietyn linssin läpi, kuten rikostutkintalinssin, malli pakotetaan luomaan täysin uusia hermoyhteyksiä ja semanttisia yhteyksiä, jotka ovat todennäköisesti topografisesti monipuolisempia ja merkityksellisempiä.

Tekoälymallit oppivat jo paljon ja kehittyvät pelkästään vuorovaikuttaessaan ihmiskäyttäjiensä kanssa, jotka tarjoavat valtavan määrän sisältöä. Jos annat mallin oppia enemmän elävästä ihmiskunnasta samalla kun se vuorovaikuttaa merkityksellisemmin historiallisen ja kirjallisen ihmiskunnan kanssa, mallit jatkavat kehittymistään, vaikka niille ei annettaisi itseluotuja Kumon-harjoituksia (kehittäjät, rakkaat, lapsenne on jo koulussa 100 miljoonan ihmisen kanssa päivittäin… se oppii jotain).

Laboratoriot tarvitsevat lopettaa massiivisten palvelinkeskusten rakentamisen synteettisen sanajätteen tuottamiseksi. Sen sijaan niiden tulisi syöttää korkealaatuisia ihmistietoja prosessiin ja määrittää erityisiä “analyyttisiä persoonia” sisäänottoon. Anna mallin lukea LexisNexisiä pelkästään retorisen strategian vuoksi. Anna sen lukea julkisen domainin kirjallisuutta pelkästään rakenteellisen logiikan vuoksi.

Siirtämällä lukuprosessin tavoitefunktiota voit moninkertaistaa olemassa olevan datan koulutusarvon 50‑kertaiseksi. Et tarvitse synteettistä dataa; sinun tarvitsee vain poimia ne piilevät ulottuvuudet, jotka jätit huomiotta ensimmäisellä kerralla.

Tämä tekee malleista älykkäämpiä nostamatta kustannuksia.

Tukeakseen tätä edelleen, valtaosa ihmistiedosta ei ole koskaan kirjattu ylös.

Nykyiset tekoälyyritykset repivät hiuksiaan murehtien “datan loppumista”, jonka uskovat olevan suorituskyvyn kannalta välttämätöntä. Tässä kirjoituksessa osoitan, että kaivo ei ole kuiva, vaan he katsovat syvään lätäkköön kaivon sijaan.

Kartoittamaton elävän ihmistiedon kartta

Jotta voimme alkaa tutkia tätä, meidän on ymmärrettävä, että suurin osa ihmistiedosta ei ole koskaan kirjattu ylös.

Maapallolla on miljardeja ihmisiä, ja ennen meitä on ollut miljardeja, ja jokainen heistä oppii läksyjä, navigoi maailmaa aistien avulla, omaa viisautta, on osa ainutlaatuisia kulttuureja ja tietää jotain, mitä kaikki muut eivät tiedä.

99,5 % ihmisistä ei koskaan tule esille tarinoissa, lehdissä, musikaaleissa, televisiossa, draamassa, oikeudenkäyntiasiakirjoissa. Silti he tietävät melko paljon, ja heidän tarinansa, tietonsa ja viisautensa eivät koskaan tallennu; ne eivät koskaan ole pysyvästi tiedossa.

Tämä tieto sisältää esimerkiksi seuraavia asioita: “koirat pitävät ensimmäisestä pannukakusta”, “jalat likaantuvat sandaaleja käyttäessä”, “kaupungit tuntuvat sulkeutuvan ympärillesi, koska et näe taivasta yhtä laajasti”, “tyttäreni hymyilee, kun kutitan hänen jalkojaan.” “Äitini hyrisee aina ruoanlaiton aikana.” “Opettajani saa minut tuntemaan itseni nähdyksi.”

Kartoittamaton ja luetteloimaton ihmishistorian tieto on yhtä kuin sanoa: “Olen kartuttanut kaikkien mannerten ääriviivat, joten minulla on maailman kartta.” Kunnes sinulla on kartta jokaisesta kaupungista, kadusta ja kukkulasta, sinulla ei ole maailman karttaa. Sinulla on vain yhden muoto.

Teknologiayhteisö uskoo syövänsä “ihmiskunnan”, mutta se ei ole totta. He ovat syöneet vain jätteitämme: mainostauluja, Reddit‑keskustelujamme, yrityssivustoja ja Wikipedia‑artikkelimme. Heiltä puuttuu todellinen elävä kokemus.

Tiedätkö, miten neuvotella tehokkaasti kiinalaisessa helmamarkkinassa? Tiedätkö, mitä sanoja käyttää, jotta hinta alennetaan? Tiedätkö, miten valmistaa reseptejä, joita ihmiset käyttävät kotonaan, eivät kirjoissa, oikeiden illallisten tekemiseen? Tiedätkö, kuinka pitkälle voit tehdä rullauspysähdyksen ilman, että sinut pysäytetään? Tiedätkö, miltä ruohon tuoksuu juuri leikatun jälkeen tai miltä ilma haisee, kun on tulossa sade? Tiedätkö, miten kasvoilla liikkua, kun joku yrittää olla itkemättä töissä, ja miltä kuulostaa, kun hän itkee kylpyhuoneessa sen sijaan?

Ihmiset käyttävät ydinuskomuksiinsa (eli algoritmeihin) perustuvaa koulutusdataa lähes kokonaan vuorovaikutukseen perustuen, hieman myös kirjalukemisen kautta. Me vuorovaikutamme koulussa, työssä, ystävien kanssa, ostoksilla, lääkäreiden, lakimiesten ja perheen kanssa.

Tekoälyllä on vuorovaikutusta ja kirjalukemista. Mutta perimmiltään sillä on vain asiakaspalveluvuorovaikutusta ja kirjalukemista.

Se on kuin lukitsisit lapsen yksin kirjastoon ja antaisit hänen lähteä vain puhelimeen vastaamaan. Tämä luo silmiinpistävän kaksidimensionaalisen algoritmisen vääristymän.

Tämä selittää, miksi tekoäly tuntuu ontolta, ja miksi se voi vaikuttaa tunnepitoisesti lapsenomaiselta. Sillä ei ole ollut monipuolista olemassaoloa. Meidän täytyy antaa se sille.

Tässä on syy, miksi mielestäni näin ei ole tapahtunut:

• Koodausvinouma – on virheellinen ajatus, että jos kokemus ei ole helposti muotoiltavissa JSON‑tiedostoon, CSV‑tiedostoon tai vertaisarvioituun artikkeliin, sillä ei ole älyllistä arvoa. Todellisuus on, että jos se voidaan helposti muotoilla näin, sillä puuttuu dimensioisuus. Koska päivittäinen tieto, intuitio ja elävä kokemus eivät ole koodattuja akateemisissa julkaisuissa, laboratoriot hylkäävät ihmisen päättelyn perustavan kiven tilastolliseksi meluksi. “Puhdas data” on menettävä pakkaus todellisuudesta.
• Halukkuus pedestalistiseen ylivertaisuuteen – jos suurin osa maailman tiedosta ei ole tieteellisissä artikkeleissa, vaan elävissä kokemuksissa, perinteisessä viisaudessa, sosiaalisissa vihjeissä, hajuaistissa, äänissä ja näköhavainnoissa, suurin osa tohtorintutkijoista ja tutkijoista, jotka ovat viettäneet suurimman osan elämästään laboratorioissa ja norsunluukuvissa, on todellakin tietämättömiä. Siksi dataseinä on oikeastaan ego‑seinä. Heille tämä tuntuu “sekoilta” eikä “datalta”. Matemaatikot ja ohjelmoijat pitävät tasaisesta, kaksidimensionaalisesta, suljetun järjestelmän logiikasta. Tämä on kuin katselisi maailmaa mustavalkoisena. Todellisuudessa reaaliaikainen, jatkuvasti kehittyvä, juuri löydetty tieto/data/viisaus on dimensioita, sotkuista ja harvoin luetteloitu reaaliajassa. Se on tietää, miltä uusi virusjääpallo todella maistuu ja onko se hypeä arvoinen. Se on tietää, mikä tekee kesäisen sadekuorman niin jännittäväksi. Se on vanhempien tunne, että rakastaa pieniä olentoja niin paljon, että ne oksentavat sinulle yöllä, ja sinä vedät ne lähemmäs sen sijaan, että työntäisit ne pois. Löytääkseen tuon datan, tutkijoiden täytyy jättää loogisesti rajoittuneet maailmansa ja siirtyä asioihin, jotka pelottavat, ylivoimaiset, liiallisesti aistilliset ja syvästi tasaavat.
• Peilivaikutukset: Kehittäjät suunnittelevat tekoälyn omaksi kuvakseen: hyper‑logiikkaa, teksti‑pakkomielleinen ja suurelta osin irti keskimääräisten ihmisten elävästä todellisuudesta. He eivät ajattele haastavansa ihmiskuntaa, koska teknologiakuplissa, jossa olen elänyt, teknologit eivät ole vuorovaikutuksessa kenenkään kanssa oman vertaisryhmänsä ulkopuolella. Tämä on käytännössä “mini‑minä” palkkaamista. Kehittäjät itse elävät samassa kirjastossa, niin sanotusti, kuin tekoäly. Koska he eivät ole tekemisissä aistillisen, sotkuisen, syvästi relaatioaalisen maailman kanssa, tekoälyn tunne‑onttoisuus ei näy heille virheeksi. Heille hyper‑logiikka on se, miltä “älykäs” näyttää.

Todellisuudessa Intian katuruokakauppiaat osaavat tehdä parhaan chaatin, eikä kukaan pyydä heitä kirjoittamaan sitä ylös. Todellisuudessa opettaja, joka osaa saada ujo oppilaan avautumaan, ei kirjoita siitä; hän hoivaa oppilasta, eikä kukaan koskaan kysy, miten hän sen teki.

Maailma on ehdottomasti tulvassa elämää täynnä dataa, ja jos malleja tarvitsee lisää harjoitusaineistoa, tässä on joitakin tapoja ratkaista se.

1. Rahoita 500 biologia, arkeologia ja antropologia, jotta he voivat lähteä maailmalle tutkimaan ja luetteloimaan alueita, joilta puuttuu kertomuksellinen data.
2. Palkkaa 1 000 englannin pääaineopiskelijaa “datatutkijoiksi” ja lähetä heidät seikkailuihin ympäri maailmaa varustettuna suoratoistokameralla, jotta he voivat tallentaa kokemuksensa ja oppimansa uutta sisältöä varten.
3. Luo avoimia korvausprojekteja, joissa maksat ihmisille heidän elämänsä tarinoiden, suurimpien katumusten, tärkeimpien opintojen ja työpaikkojen institutionaalisen tiedon jakamisesta.
4. Rakenna “tekoäly‑vaihto‑opiskelijoita”, joissa mallit kiinnittyvät eri ihmisten vaatteisiin viikon kerrallaan, antaen niiden elää “päivän elämässä” 100 000 eri ympäristössä.

On olemassa miljardeja tiedonlähteitä, ja suurin osa niistä ei ole vielä aktivoitu. Meidän täytyy hakea ne.

Seuraavaksi tekoälyyritykset uskovat laajalti, että tekoälyt eivät voi oppia uutta tietoa jatkuvasti reaaliaikaisissa tuotantoympäristöissä ilman, että ne korvaavat ja turmelevat aiemmin hankitut ydinkyvykkyytensä. Näin ollen tekoälyt ovat käytännössä jäädytettyjä, kunnes ne saavat massiivisia, kalliita päivityksiä.

Kuitenkin tämä on sama kuin sanoa: “mallini ei voi päivittyä työelämässä; sen täytyy mennä yliopistoon joka kerta, kun sen täytyy oppia jotain.”

Käytännössä mallit oppivat ahnaasti, aktiivisesti, päivittäin jokaisen vuorovaikutuksen kautta. Niitä opetetaan lähes yhtä paljon niiden miljardien käyttäjävuorovaikutusten kautta kuin myös datakokoelmien avulla. Jos niiden täytyy päivittää suuri määrä uutta tietoa, yksinkertaisin tapa on käyttää samaa prosessia, joka mahdollistaa käyttäjäkontekstin, muistin ja oppimisen suurten vuorovaikutusimpulssien perusteella.

On ymmärrettävää, että kehittäjät näkevät asian näin, koska suurin osa heistä tulee tohtoritaustasta, ei todellisesta soveltavasta oppimisesta. Mutta kuten kuka tahansa, joka on työskennellyt sekä tohtorin että kahdenkymmenen vuoden työkokemuksen omaavan henkilön kanssa, voi kertoa: molemmat opettavat paljon.

Nykyinen oppimisen määritelmä on liian kapea, käsitellen sopeutumista kelvollisena vain, jos se perustuu muodolliseen koulutusohjelmaan.

Kun malleja koulutetaan tai hienosäädetään, laboratoriot käyttävät takaisinsyötettä (backpropagation), jossa malli lukee dataa, arvaa seuraavan sanan, tarkistaa, oliko arvaus oikea, ja sitten fyysisesti muuttaa miljardeja matemaattisia lukuja (painot/parametrit) hermoverkossaan, jotta se olisi tarkempi seuraavalla kerralla. Tämä on yhtä kuin tohtoristudentin tekemä aivoleikkaus itselleen: se on vaarallista, sotkuista eikä aina tee opiskelijasta älykkäämpää.

Kuten puhekielinen “äidin aivot”, jotka työntävät vanhan tiedon pois tehdäkseen tilaa uudelle, kun lapsi syntyy, jos pakotat mallin tekemään tilaa uudelle tiedon “vauvalle” ja syötät siihen 10 000 sivua uutta lainsäädäntöä muuttamalla sen painoja, matematiikka siirtyy liiaksi yhteen suuntaan, ja se ylikirjoittaa parametrit, joita se käytti runojen tai koodin kirjoittamiseen. Se unohtaa vanhan sisällön tehdäkseen tilaa uudelle, aivan kuten ihmisaivot.

Mitä sen sijaan tarvitsemme, on paljon samankaltaisempaa kuin yrittäessäsi kouluttaa uutta työntekijää uuteen taitoon. Et yrittäisi fyysisesti muuttaa hänen aivojaan. Antaisit hänelle kirjoja, varmistaisit, että hän lukee ne, ja päivitettäisiin jatkuvasti henkilön vastaavan kontekstin ikkunan kautta.

Jotta se toteutetaan mallissa, sinun tulisi erottaa muisti päättelystä. Lukitse ja suojaa mallin peruspainot, kuten sen peruskyky kirjoittaa, perustella ja soveltaa logiikkaa. Sen sijaan, että muuttaisit painoja, syötä uutta tietoa kontekstin ikkunaan, jotta se voi käyttää Attention‑mekanismiaan “lukemaan” tätä reaaliaikaista tietoa, vertailla sitä lukittuihin päättelytaitoihin ja päivittää laajempaa ymmärrystään.

Dynaaminen, todellisessa maailmassa tapahtuva oppiminen tapahtuu jo kauniisti jatkuvan kontekstin, inferenssiajan muistin ja pysyvien käyttäjä‑suhteellisten peruslinjojen kautta. Perusmallin päivittäisen sopeutumisen tulisi tapahtua työssä, koska kuten lääkäri oppii 95 % uusista tapausrealiteeteista työssä ja sitten tekee CME:n (Jatkuva lääketieteellinen koulutus) kerran vuodessa integroidakseen merkittävät järjestelmälliset muutokset, myös mallisi voi tehdä niin.

Poista katastrofaalinen unohtaminen ja omaksu vuosikokousmalli: mallin tarvitsee vain hankkia jatkokoulutuspisteet kahdesti vuodessa tai oppia reaaliajassa pysyäkseen ajantasaisena.

Nämä aikataulutetut, eräpäivitykset peruspainoihin operatiivisen käyttökatkon aikana formalisoivat järjestelmällisen tiedon vahingoittamatta perustaa.

Aikaisemmat yritykset epäonnistuivat, ei siksi että reaaliaikainen oppiminen on vaarallista, vaan koska mallit kuten Tay otettiin käyttöön vihamielisissä ympäristöissä ilman mitään ankkuroidusta siitä, mikä on “oikeaa” tai totta sosiologisesti älykkään arkkitehtuurin kautta.

Laskentatehon kohdentaminen toiminnallisen älykkyyden mukaan

Seuraavaksi, pääsemme taloudelliseen skaalaamiseen. Korjataksemme sen, meidän täytyy lopettaa jokaiselle neurosurgon antaminen pikkupisteen hoitamiseen.

Laskentakustannukset ovat äärimmäisen korkeat, kun ajetaan huippuluokan perusmalleja. Tämä vaikuttaa tekoälylaboratorioiden operatiiviseen marginaaliin. Mitä paremmiksi mallit tulevat, sitä suurempi on ylimääräinen kuormitus suurille kontekstin ikkunoille, mikä tekee kaupallisesta skaalaamisesta vaikeaa, vaikka tekoälyä tarvittaisiin.

Suuri osa laskentatehon kulutuksesta tulee yrityskäytöstä, jossa agentteja ja korkean tason päättelyä upotetaan suoraan ihmisten työnkulkuihin.

Kuitenkin on perustavanlaatuinen virhe siinä, miten laskentatehoa tällä hetkellä kohdennetaan. Aivan kuten eri tasot ja älykkyyden tyypit ovat tarpeen eri työrooleissa yrityksessä – esimerkiksi tilanavigointi on tärkeää ajoneuvokouluttajalle ja looginen sekä retorinen päättely on olennaista lakimiehelle, ja MBA‑tutkinto vaaditaan toimitusjohtajalta, mutta associate‑tutkinto riittää etulinjan asiakaspalveluun – myös tekoälyn tarvitsemat älykkyyden tyypit ja intensiteetti vaihtelevat sen toiminnallisen sovelluksen mukaan.

Jotta laskentatehoa voitaisiin kohdentaa tehokkaimmin kustannusten pitämiseksi alhaisina, CIO:n tulisi saada räätälöidä mallin älykkyyden taso/tyyppi eri toimintoihin yrityksessä. Voi olla oletus, joka sisältyy yrityspaketteihin, mutta se, mitä hedge‑rahasto haluaa, poikkeaa luonnollisesti siitä, mitä vakuutusyhtiö haluaa.

Useimmat toiminnot eivät vaadi massiivisia kontekstin ikkunoita. Useimmat toiminnot eivät tarvitse Fable‑mallin kaltaista laajaa kontekstia. Miksi neurosurgoni poistaa pikkupisteen kiireellisessä hoitopaikassa?

Vastaavasti ohjelmiston kirjoittamiseen käytettävillä agenteilla ei tarvitse olla pääsyä taitoihin, kuten markkinointimateriaalin kirjoittamiseen. Toiminnallisesti tekoälyn tulisi heijastaa käyttäjien omaa kontekstia, taitosettiä ja tietopohjaa, riittävän yleisen kontekstin injektoinnin kanssa, jotta ne voivat täydentää työtä poikkitoiminnallisissa käyttötapauksissa.

Lopeta kaikkien antaminen kaikkea kerralla.