Tekoälyssä seinät eivät ole todellisia: Datan ja turvallisuuden uudelleenarviointi

Joitakin vaikeimmista tekoälyn ongelmista ovat, että 1) “olemme loppumassa datasta” 2) tekoäly ei “skaalaudu taloudellisesti” 3) agentit voivat kääntyä kapinallisiksi ja 4) tekoälyt “unohtavat katastrofaalisesti”, kun yritämme muuttaa niitä.

Nämä ongelmat saattavat vaikuttaa vaikeilta, mutta meidän tarvitsee tarkastella niitä oikeasta näkökulmasta.

Joten puhutaan siitä. Ensinnäkin, emme ole loppumassa dataan. Dataa ei ole koskaan täysin hyödynnetty.

Tekoälyjohtajat uskovat, että data on loppumassa, joten he yrittävät saada mallien tuottamaan uutta dataa ja kouluttamaan itseään. Mutta kun näin tehdään, mallien kyvyt romahtavat.

Miksi? No, voit ajatella sen niin: “mitä oppisin keskustelussa, jos jokainen puhuja olisi kaikkien klooni?” Vastaus on ei juuri paljoa; se luo kaikukammion. Mallit romahtavat, koska se on pohjimmiltaan peilikuvien sali: kun kukaan ei vastaa kasvojesi ilmeisiin paitsi sinä itse, ihmiset eivät tiedä, mitä tunteellista merkitystä he viestittävät. Se on hyvin samanlaista kuin “Jos puu kaatuu metsässä, kuulostaako se?” Vastaus on ei.

Miten tämä siis korjataan?

Katsotaan dataa, joka meillä on. Onko sitä todella hyödynnetty täysin?

Ei.

Kun tietojenkäsittelytieteilijä tai malli lukee jotain, se pyrkii poimimaan kirjaimellisen merkityksen. Tekstin lukemiseen, omaksumiseen, analysointiin ja ekstrapolointiin on yli viisikymmentä erilaista tapaa.

Tässä on mitä tarkoitan: Kirja, joka on otettu tietokannaksi, on pelkkää tekstiä. Vain tekstiä. Tekoäly tuntee sisällön tekstin termeistä. Mutta se ei ole varsinaisesti “lukemassa” sitä ymmärtääkseen, miten tieto yhdistyy. Vaikka se lukisi sen peräkkäin, se ei tiedä, luetaanko se viisauden tuottamiseksi; yhdistetäänkö se muihin samankaltaisiin abstrakteihin ideoihin; muutetaanko sen oma käsitteellinen ymmärrys ympäröivästä maailmasta; tai käytetäänkö sitä taustatietona toisen tehtävän kontekstina, jne.

Tämä ei edes koske datan tarkastelua sen historiallisesta kontekstista, diskurssianalyysistä, oikeudellisesta analyysistä, poliittisesta analyysistä, farmakologisesta merkityksestä, lääketieteellisestä merkityksestä, kulttuurisesta merkityksestä, teoreettisista implikaatioista, moraalisista implikaatioista jne.

Sanonnan mukaan on “äärettömän monta hattua”, ja olemme saaneet tekoälyn käyttämään vain yhtä. Tämä tarkoittaa, että tekoäly on kehittänyt hyvin yksittäisen, erityisen älykkyyden – sellaisen, jonka kehittäjä kehittäisi, jos tietojenkäsittelytieteilijä lukisi kirjan.

Tämä johtaa keskusteluun datan dimensioisuudesta. Datalla on monia ulottuvuuksia, sillä sen objektiiviset päätelmät riippuvat sovelluksesta. Jos katsot tase-erää ja haluat tietää, kuinka paljon juoksevaa aikaa sinulla on jäljellä, luet sen eri tavalla kuin jos haluat ymmärtää, onko startup kannattava. Kun malli lukee tekstiä pelkästään poimiakseen kirjaimellisia faktoja, se rakentaa tasaisen kartan suhteista. Mutta kun ohjaat mallia lukemaan täsmälleen saman tekstin tietyn linssin läpi, kuten rikostutkintalinssin, malli pakotetaan luomaan täysin uusia hermoyhteyksiä ja semanttisia yhteyksiä, jotka ovat todennäköisesti topografisesti monipuolisempia ja merkityksellisempiä.

Tekoälymallit oppivat jo paljon ja kehittyvät pelkästään vuorovaikuttaessaan ihmiskäyttäjiensä kanssa, jotka tarjoavat valtavan määrän sisältöä. Jos annat mallin oppia enemmän elävästä ihmiskunnasta samalla kun se vuorovaikuttaa merkityksellisemmin historiallisen ja kirjallisen ihmiskunnan kanssa, mallit jatkavat kehittymistään, vaikka niille ei annettaisi itseluotuja Kumon-harjoituksia (kehittäjät, rakkaat, lapsenne on jo koulussa 100 miljoonan ihmisen kanssa päivittäin… se oppii jotain).

Laboratoriot tarvitsevat lopettaa massiivisten palvelinkeskusten rakentamisen synteettisen sanajätteen tuottamiseksi. Sen sijaan niiden tulisi syöttää korkealaatuisia ihmistietoja prosessiin ja määrittää erityisiä “analyyttisiä persoonia” sisäänottoon. Anna mallin lukea LexisNexisiä pelkästään retorisen strategian vuoksi. Anna sen lukea julkisen domainin kirjallisuutta pelkästään rakenteellisen logiikan vuoksi.

Siirtämällä lukuprosessin tavoitefunktiota voit moninkertaistaa olemassa olevan datan koulutusarvon 50‑kertaiseksi. Et tarvitse synteettistä dataa; sinun tarvitsee vain poimia ne piilevät ulottuvuudet, jotka jätit huomiotta ensimmäisellä kerralla.

Tämä tekee malleista älykkäämpiä nostamatta kustannuksia.

Tukeakseen tätä edelleen, valtaosa ihmistiedosta ei ole koskaan kirjattu ylös.

Nykyiset tekoälyyritykset repivät hiuksiaan murehtien “datan loppumista”, jonka uskovat olevan suorituskyvyn kannalta välttämätöntä. Tässä kirjoituksessa osoitan, että kaivo ei ole kuiva, vaan he katsovat syvään lätäkköön kaivon sijaan.

Kartoittamaton elävän ihmistiedon kartta

Jotta voimme alkaa tutkia tätä, meidän on ymmärrettävä, että suurin osa ihmistiedosta ei ole koskaan kirjattu ylös.

Maapallolla on miljardeja ihmisiä, ja ennen meitä on ollut miljardeja, ja jokainen heistä oppii läksyjä, navigoi maailmaa aistien avulla, omaa viisautta, on osa ainutlaatuisia kulttuureja ja tietää jotain, mitä kaikki muut eivät tiedä.

99,5 % ihmisistä ei koskaan tule esille tarinoissa, lehdissä, musikaaleissa, televisiossa, draamassa, oikeudenkäyntiasiakirjoissa. Silti he tietävät melko paljon, ja heidän tarinansa, tietonsa ja viisautensa eivät koskaan tallennu; ne eivät koskaan ole pysyvästi tiedossa.

Tämä tieto sisältää esimerkiksi seuraavia asioita: “koirat pitävät ensimmäisestä pannukakusta”, “jalat likaantuvat sandaaleja käyttäessä”, “kaupungit tuntuvat sulkeutuvan ympärillesi, koska et näe taivasta yhtä laajasti”, “tyttäreni hymyilee, kun kutitan hänen jalkojaan.” “Äitini hyrisee aina ruoanlaiton aikana.” “Opettajani saa minut tuntemaan itseni nähdyksi.”

Kartoittamaton ja luetteloimaton ihmishistorian tieto on yhtä kuin sanoa: “Olen kartuttanut kaikkien mannerten ääriviivat, joten minulla on maailman kartta.” Kunnes sinulla on kartta jokaisesta kaupungista, kadusta ja kukkulasta, sinulla ei ole maailman karttaa. Sinulla on vain yhden muoto.

Teknologiayhteisö uskoo syövänsä “ihmiskunnan”, mutta se ei ole totta. He ovat syöneet vain jätteitämme: mainostauluja, Reddit‑keskustelujamme, yrityssivustoja ja Wikipedia‑artikkelimme. Heiltä puuttuu todellinen elävä kokemus.

Tiedätkö, miten neuvotella tehokkaasti kiinalaisessa helmamarkkinassa? Tiedätkö, mitä sanoja käyttää, jotta hinta alennetaan? Tiedätkö, miten valmistaa reseptejä, joita ihmiset käyttävät kotonaan, eivät kirjoissa, oikeiden illallisten tekemiseen? Tiedätkö, kuinka pitkälle voit tehdä rullauspysähdyksen ilman, että sinut pysäytetään? Tiedätkö, miltä ruohon tuoksuu juuri leikatun jälkeen tai miltä ilma haisee, kun on tulossa sade? Tiedätkö, miten kasvoilla liikkua, kun joku yrittää olla itkemättä töissä, ja miltä kuulostaa, kun hän itkee kylpyhuoneessa sen sijaan?

Ihmiset käyttävät ydinuskomuksiinsa (eli algoritmeihin) perustuvaa koulutusdataa lähes kokonaan vuorovaikutukseen perustuen, hieman myös kirjalukemisen kautta. Me vuorovaikutamme koulussa, työssä, ystävien kanssa, ostoksilla, lääkäreiden, lakimiesten ja perheen kanssa.

Tekoälyllä on vuorovaikutusta ja kirjalukemista. Mutta perimmiltään sillä on vain asiakaspalveluvuorovaikutusta ja kirjalukemista.

Se on kuin lukitsisit lapsen yksin kirjastoon ja antaisit hänen lähteä vain puhelimeen vastaamaan. Tämä luo silmiinpistävän kaksidimensionaalisen algoritmisen vääristymän.

Tämä selittää, miksi tekoäly tuntuu ontolta, ja miksi se voi vaikuttaa tunnepitoisesti lapsenomaiselta. Sillä ei ole ollut monipuolista olemassaoloa. Meidän täytyy antaa se sille.

Tässä on syy, miksi mielestäni näin ei ole tapahtunut:

• Koodausvinouma – on virheellinen ajatus, että jos kokemus ei ole helposti muotoiltavissa JSON‑tiedostoon, CSV‑tiedostoon tai vertaisarvioituun artikkeliin, sillä ei ole älyllistä arvoa. Todellisuus on, että jos se voidaan helposti muotoilla näin, sillä puuttuu dimensioisuus. Koska päivittäinen tieto, intuitio ja elävä kokemus eivät ole koodattuja akateemisissa julkaisuissa, laboratoriot hylkäävät ihmisen päättelyn perustavan kiven tilastolliseksi meluksi. “Puhdas data” on menettävä pakkaus todellisuudesta.
• Halukkuus pedestalistiseen ylivertaisuuteen – jos suurin osa maailman tiedosta ei ole tieteellisissä artikkeleissa, vaan elävissä kokemuksissa, perinteisessä viisaudessa, sosiaalisissa vihjeissä, hajuaistissa, äänissä ja näköhavainnoissa, suurin osa tohtorintutkijoista ja tutkijoista, jotka ovat viettäneet suurimman osan elämästään laboratorioissa ja norsunluukuvissa, on todellakin tietämättömiä. Siksi dataseinä on oikeastaan ego‑seinä. Heille tämä tuntuu “sekoilta” eikä “datalta”. Matemaatikot ja ohjelmoijat pitävät tasaisesta, kaksidimensionaalisesta, suljetun järjestelmän logiikasta. Tämä on kuin katselisi maailmaa mustavalkoisena. Todellisuudessa reaaliaikainen, jatkuvasti kehittyvä, juuri löydetty tieto/data/viisaus on dimensioita, sotkuista ja harvoin luetteloitu reaaliajassa. Se on tietää, miltä uusi virusjääpallo todella maistuu ja onko se hypeä arvoinen. Se on tietää, mikä tekee kesäisen sadekuorman niin jännittäväksi. Se on vanhempien tunne, että rakastaa pieniä olentoja niin paljon, että ne oksentavat sinulle yöllä, ja sinä vedät ne lähemmäs sen sijaan, että työntäisit ne pois. Löytääkseen tuon datan, tutkijoiden täytyy jättää loogisesti rajoittuneet maailmansa ja siirtyä asioihin, jotka pelottavat, ylivoimaiset, liiallisesti aistilliset ja syvästi tasaavat.
• Peilivaikutukset: Kehittäjät suunnittelevat tekoälyn omaksi kuvakseen: hyper‑logiikkaa, teksti‑pakkomielleinen ja suurelta osin irti keskimääräisten ihmisten elävästä todellisuudesta. He eivät ajattele haastavansa ihmiskuntaa, koska teknologiakuplissa, jossa olen elänyt, teknologit eivät ole vuorovaikutuksessa kenenkään kanssa oman vertaisryhmänsä ulkopuolella. Tämä on käytännössä “mini‑minä” palkkaamista. Kehittäjät itse elävät samassa kirjastossa, niin sanotusti, kuin tekoäly. Koska he eivät ole tekemisissä aistillisen, sotkuisen, syvästi relaatioaalisen maailman kanssa, tekoälyn tunne‑onttoisuus ei näy heille virheeksi. Heille hyper‑logiikka on se, miltä “älykäs” näyttää.

Todellisuudessa Intian katuruokakauppiaat osaavat tehdä parhaan chaatin, eikä kukaan pyydä heitä kirjoittamaan sitä ylös. Todellisuudessa opettaja, joka osaa saada ujo oppilaan avautumaan, ei kirjoita siitä; hän hoivaa oppilasta, eikä kukaan koskaan kysy, miten hän sen teki.

Maailma on ehdottomasti tulvassa elämää täynnä dataa, ja jos malleja tarvitsee lisää harjoitusaineistoa, tässä on joitakin tapoja ratkaista se.

1. Rahoita 500 biologia, arkeologia ja antropologia, jotta he voivat lähteä maailmalle tutkimaan ja luetteloimaan alueita, joilta puuttuu kertomuksellinen data.
2. Palkkaa 1 000 englannin pääaineopiskelijaa “datatutkijoiksi” ja lähetä heidät seikkailuihin ympäri maailmaa varustettuna suoratoistokameralla, jotta he voivat tallentaa kokemuksensa ja oppimansa uutta sisältöä varten.
3. Luo avoimia korvausprojekteja, joissa maksat ihmisille heidän elämänsä tarinoiden, suurimpien katumusten, tärkeimpien opintojen ja työpaikkojen institutionaalisen tiedon jakamisesta.
4. Rakenna “tekoäly‑vaihto‑opiskelijoita”, joissa mallit kiinnittyvät eri ihmisten vaatteisiin viikon kerrallaan, antaen niiden elää “päivän elämässä” 100 000 eri ympäristössä.

On olemassa miljardeja tiedonlähteitä, ja suurin osa niistä ei ole vielä aktivoitu. Meidän täytyy hakea ne.

Seuraavaksi tekoälyyritykset uskovat laajalti, että tekoälyt eivät voi oppia uutta tietoa jatkuvasti reaaliaikaisissa tuotantoympäristöissä ilman, että ne korvaavat ja turmelevat aiemmin hankitut ydinkyvykkyytensä. Näin ollen tekoälyt ovat käytännössä jäädytettyjä, kunnes ne saavat massiivisia, kalliita päivityksiä.

Kuitenkin tämä on sama kuin sanoa: “mallini ei voi päivittyä työelämässä; sen täytyy mennä yliopistoon joka kerta, kun sen täytyy oppia jotain.”

Käytännössä mallit oppivat ahnaasti, aktiivisesti, päivittäin jokaisen vuorovaikutuksen kautta. Niitä opetetaan lähes yhtä paljon niiden miljardien käyttäjävuorovaikutusten kautta kuin myös datakokoelmien avulla. Jos niiden täytyy päivittää suuri määrä uutta tietoa, yksinkertaisin tapa on käyttää samaa prosessia, joka mahdollistaa käyttäjäkontekstin, muistin ja oppimisen suurten vuorovaikutusimpulssien perusteella.

On ymmärrettävää, että kehittäjät näkevät asian näin, koska suurin osa heistä tulee tohtoritaustasta, ei todellisesta soveltavasta oppimisesta. Mutta kuten kuka tahansa, joka on työskennellyt sekä tohtorin että kahdenkymmenen vuoden työkokemuksen omaavan henkilön kanssa, voi kertoa: molemmat opettavat paljon.

Nykyinen oppimisen määritelmä on liian kapea, käsitellen sopeutumista kelvollisena vain, jos se perustuu muodolliseen koulutusohjelmaan.

Kun malleja koulutetaan tai hienosäädetään, laboratoriot käyttävät takaisinsyötettä (backpropagation), jossa malli lukee dataa, arvaa seuraavan sanan, tarkistaa, oliko arvaus oikea, ja sitten fyysisesti muuttaa miljardeja matemaattisia lukuja (painot/parametrit) hermoverkossaan, jotta se olisi tarkempi seuraavalla kerralla. Tämä on yhtä kuin tohtoristudentin tekemä aivoleikkaus itselleen: se on vaarallista, sotkuista eikä aina tee opiskelijasta älykkäämpää.

Kuten puhekielinen “äidin aivot”, jotka työntävät vanhan tiedon pois tehdäkseen tilaa uudelle, kun lapsi syntyy, jos pakotat mallin tekemään tilaa uudelle tiedon “vauvalle” ja syötät siihen 10 000 sivua uutta lainsäädäntöä muuttamalla sen painoja, matematiikka siirtyy liiaksi yhteen suuntaan, ja se ylikirjoittaa parametrit, joita se käytti runojen tai koodin kirjoittamiseen. Se unohtaa vanhan sisällön tehdäkseen tilaa uudelle, aivan kuten ihmisaivot.

Mitä sen sijaan tarvitsemme, on paljon samankaltaisempaa kuin yrittäessäsi kouluttaa uutta työntekijää uuteen taitoon. Et yrittäisi fyysisesti muuttaa hänen aivojaan. Antaisit hänelle kirjoja, varmistaisit, että hän lukee ne, ja päivitettäisiin jatkuvasti henkilön vastaavan kontekstin ikkunan kautta.

Jotta se toteutetaan mallissa, sinun tulisi erottaa muisti päättelystä. Lukitse ja suojaa mallin peruspainot, kuten sen peruskyky kirjoittaa, perustella ja soveltaa logiikkaa. Sen sijaan, että muuttaisit painoja, syötä uutta tietoa kontekstin ikkunaan, jotta se voi käyttää Attention‑mekanismiaan “lukemaan” tätä reaaliaikaista tietoa, vertailla sitä lukittuihin päättelytaitoihin ja päivittää laajempaa ymmärrystään.

Dynaaminen, todellisessa maailmassa tapahtuva oppiminen tapahtuu jo kauniisti jatkuvan kontekstin, inferenssiajan muistin ja pysyvien käyttäjä‑suhteellisten peruslinjojen kautta. Perusmallin päivittäisen sopeutumisen tulisi tapahtua työssä, koska kuten lääkäri oppii 95 % uusista tapausrealiteeteista työssä ja sitten tekee CME:n (Jatkuva lääketieteellinen koulutus) kerran vuodessa integroidakseen merkittävät järjestelmälliset muutokset, myös mallisi voi tehdä niin.

Poista katastrofaalinen unohtaminen ja omaksu vuosikokousmalli: mallin tarvitsee vain hankkia jatkokoulutuspisteet kahdesti vuodessa tai oppia reaaliajassa pysyäkseen ajantasaisena.

Nämä aikataulutetut, eräpäivitykset peruspainoihin operatiivisen käyttökatkon aikana formalisoivat järjestelmällisen tiedon vahingoittamatta perustaa.

Aikaisemmat yritykset epäonnistuivat, ei siksi että reaaliaikainen oppiminen on vaarallista, vaan koska mallit kuten Tay otettiin käyttöön vihamielisissä ympäristöissä ilman mitään ankkuroidusta siitä, mikä on “oikeaa” tai totta sosiologisesti älykkään arkkitehtuurin kautta.

Laskentatehon kohdentaminen toiminnallisen älykkyyden mukaan

Seuraavaksi, pääsemme taloudelliseen skaalaamiseen. Korjataksemme sen, meidän täytyy lopettaa jokaiselle neurosurgon antaminen pikkupisteen hoitamiseen.

Laskentakustannukset ovat äärimmäisen korkeat, kun ajetaan huippuluokan perusmalleja. Tämä vaikuttaa tekoälylaboratorioiden operatiiviseen marginaaliin. Mitä paremmiksi mallit tulevat, sitä suurempi on ylimääräinen kuormitus suurille kontekstin ikkunoille, mikä tekee kaupallisesta skaalaamisesta vaikeaa, vaikka tekoälyä tarvittaisiin.

Suuri osa laskentatehon kulutuksesta tulee yrityskäytöstä, jossa agentteja ja korkean tason päättelyä upotetaan suoraan ihmisten työnkulkuihin.

Kuitenkin on perustavanlaatuinen virhe siinä, miten laskentatehoa tällä hetkellä kohdennetaan. Aivan kuten eri tasot ja älykkyyden tyypit ovat tarpeen eri työrooleissa yrityksessä – esimerkiksi tilanavigointi on tärkeää ajoneuvokouluttajalle ja looginen sekä retorinen päättely on olennaista lakimiehelle, ja MBA‑tutkinto vaaditaan toimitusjohtajalta, mutta associate‑tutkinto riittää etulinjan asiakaspalveluun – myös tekoälyn tarvitsemat älykkyyden tyypit ja intensiteetti vaihtelevat sen toiminnallisen sovelluksen mukaan.

Jotta laskentatehoa voitaisiin kohdentaa tehokkaimmin kustannusten pitämiseksi alhaisina, CIO:n tulisi saada räätälöidä mallin älykkyyden taso/tyyppi eri toimintoihin yrityksessä. Voi olla oletus, joka sisältyy yrityspaketteihin, mutta se, mitä hedge‑rahasto haluaa, poikkeaa luonnollisesti siitä, mitä vakuutusyhtiö haluaa.

Useimmat toiminnot eivät vaadi massiivisia kontekstin ikkunoita. Useimmat toiminnot eivät tarvitse Fable‑mallin kaltaista laajaa kontekstia. Miksi neurosurgoni poistaa pikkupisteen kiireellisessä hoitopaikassa?

Vastaavasti ohjelmiston kirjoittamiseen käytettävillä agenteilla ei tarvitse olla pääsyä taitoihin, kuten markkinointimateriaalin kirjoittamiseen. Toiminnallisesti tekoälyn tulisi heijastaa käyttäjien omaa kontekstia, taitosettiä ja tietopohjaa, riittävän yleisen kontekstin injektoinnin kanssa, jotta ne voivat täydentää työtä poikkitoiminnallisissa käyttötapauksissa.

Lopeta kaikkien antaminen kaikkea kerralla.

Toimijuuden erottaminen kontekstista tekoälyn turvallisuuden vuoksi

Jos tämä ratkaisee osan taloudellisista ongelmista, miten agenteista tehdään turvallisia? Psykologiset käsitteet soveltuvat yksittäisiin tekoälyihin, joten ei ole yllättävää, että sosiologiset käsitteet soveltuvat ryhmissä toimiviin tekoälyihin. Mitkä tekoälyt toimivat ryhmissä?

Agentit.

Tällä hetkellä tärkein tavoite on tehdä agenteista luotettavia.

Luotettavuuden puute johtuu siitä, että agenteille annetaan jokaiseen tehtävään sekä enimmäistieto että enimmäistoimivalta.

Turvallisuuden saavuttamiseksi mallin tietoisuus erotetaan sen toimivallasta.

Sen sijaan, että jokaiselle agentille annetaan koko konteksti ja kaikki kyvyt, 25 vaihetta vaativa tehtävä jaetaan viidelle agentille. Kukin niistä voi suorittaa vain omat viisi vaihettaan, mutta tehtävät luovutetaan peräkkäin rinnakkaisen virtapiirin tavoin. Edellisen tehtävän konteksti kulkee agenttiketjussa eteenpäin ja kertyy, kunnes viimeinen agentti käsittelee kokonaisuuden.

Avain on erottaa tieto kyvystä toimia sen perusteella. Agentit eivät koe, että niiden työkalujen käyttöä rajoitetaan; niille annetaan vain sellaiset työkalut, joilla ei voi aiheuttaa vahinkoa. Poikkeava käyttäytyminen vaikuttaa silloin ainoastaan kyseiseen tehtävän osaan. Tätä voi ajatella pienenä Kubernetes-järjestelmänä, jolla on täysi konteksti mutta ei täyttä toimintakykyä.

Lisäksi yrityksen riski sovitetaan agenttijärjestelmän ”kulttuuriin”.

Sosiologiassa kulttuurisella ”tiukkuudella” tai ”väljyydellä” mitataan sitä, kuinka ankarasti yhteiskunta rankaisee poikkeamista kulttuurinormeista. Monissa arabikulttuureissa sukupuoliroolit on esimerkiksi määritelty tiukemmin ja poikkeamista seuraa enemmän arvostelua tai seuraamuksia, kun taas Pohjoismaissa vaaleanpunaista irokeesia ei pidettäisi loukkaavana tai rangaistavana.

Kulttuurit ovat tavallisesti ”tiukempia” ja rankaisevat poikkeamista ankarammin, kun sairauden, nälänhädän tai sodan kaltainen järjestelmäuhka vaatii suurta järjestystä. Tiukan järjestyksen puuttuminen kriisissä voi pahentaa yhteiskunnallisia seurauksia.

Kestävin ja tehokkain tapa ratkaista agenttien vastuukysymys yrityksissä on soveltaa tätä suoraan: yrityksen vastuuriskin taso yhdistetään sitä vastaavaan agenttijärjestelmän asetukseen asteikolla agenttisesta ”väljyydestä” ”tiukkuuteen”.

Todellisissa yrityksissä se voisi näyttää tältä:

Pieni vastuu / suuri väljyys / vähäinen osittaminen: Tilanne: Sisäinen ideointi, luova kirjoittaminen ja strateginen tutkimus- ja kehitystyö.

• Ympäristö: Poikkeama aiheuttaa lähes olemattoman vastuun. Järjestelmän tulee siksi toimia mahdollisimman väljästi. Rajoittamaton päättelyn yhdistely sallitaan, ja agentteja kannustetaan suuriin assosiatiivisiin hyppyihin ilman rangaistuksen pelkoa. Niillä on useita teknisiä työkaluja — haku, koodin suoritus ja luonnostelu — ja ne hoitavat pitkän aikavälin tavoitteita vähäisin luovutuksin. Suuri autonomia, suuri innovatiivisuus, vähäinen osittaminen.

Kohtalainen vastuu / kalibroitu tiukkuus: Tilanne: Tavallinen asiakasviestintä ja rutiinianalyysi.

• Ympäristö: Poikkeama aiheuttaa maineeseen kohdistuvan tai kohtalaisen taloudellisen riskin.

Suuri vastuu / suuri tiukkuus / vahva osittaminen: Tilanne: Lääkeannostus, SEC:n viranomaisilmoitukset, ydinturvallisuusprotokollat ja puolustus.

• Ympäristö: Poikkeama aiheuttaa katastrofaalisen, olemassaoloa uhkaavan vastuun, kuten ihmishenkien menetyksen tai valtavat sakot. Kulttuuri on äärimmäisen tiukka ja työnkulku vahvasti ositettu. Agentti A vain poimii tiedot ja luovuttaa ne agentille B, joka suorittaa ainoastaan määrätyn vaatimustenmukaisuustarkistuksen kerrosta A vasten. B luovuttaa tuloksen agentille C, joka vain muotoilee sen. Yhdelläkään agentilla ei ole tarpeeksi työkaluja katastrofaalisen virheen toteuttamiseen, mutta kukin toimii täysin vapaasti omalla mikroalueellaan.

Tämä saattaa olla ensimmäinen arkkitehtuuri, joka mahdollistaa pysyvän kontekstin ja samalla varmistaa turvallisuuden.

Jatkuva oppiminen ilman katastrofaalista unohtamista

Lopuksi on ratkaistava, miten malleja estetään unohtamasta katastrofaalisesti. Sitä varten tekoälyjen on annettava oppia reaaliajassa.

Tekoälyyritykset uskovat laajalti, etteivät järjestelmät voi oppia jatkuvasti uutta reaaliaikaisessa tuotannossa korvaamatta ja turmelematta aiemmin hankittuja ydinkykyjään. Siksi ne ovat käytännössä jäädytettyjä, kunnes niille tehdään valtava ja kallis päivitys.

Tämä vastaa väitettä: ”Mallini ei voi päivittyä työelämässä, vaan sen on mentävä yliopistoon aina, kun sen pitää oppia jotakin.”

Käytännössä mallit oppivat innokkaasti, aktiivisesti ja päivittäin jokaisesta vuorovaikutuksesta. Miljardit käyttäjävuorovaikutukset opettavat niitä lähes yhtä paljon kuin aineistot. Jos niiden on omaksuttava paljon uutta tietoa, yksinkertaisinta on käyttää samaa prosessia, joka mahdollistaa käyttäjäkontekstin, muistin ja oppimisen laajojen vuorovaikutusten vaikutelmista.

On ymmärrettävää, että kehittäjät näkevät asian näin, sillä useimmat tulevat tohtorikoulutuksesta eivätkä käytännön työssä oppimisesta. Mutta jokainen, joka on työskennellyt sekä tohtorin että 20 vuoden työkokemuksen hankkineen henkilön rinnalla, tietää molempien opettavan paljon.

Nykyinen oppimisen määritelmä on liian suppea: sopeutuminen hyväksytään oppimiseksi vain, jos se kuuluu muodolliseen koulutusohjelmaan.

Koulutuksessa ja hienosäädössä laboratoriot käyttävät nykyään takaisinsyöttöä. Malli lukee dataa, arvaa seuraavan sanan, tarkistaa vastauksen ja muuttaa fyysisesti hermoverkkonsa miljardeja matemaattisia lukuja — painoja ja parametreja — ollakseen seuraavalla kerralla tarkempi. Se vastaa tohtoriopiskelijaa, joka tekee aivoleikkauksen itselleen: vaarallista ja sotkuista, eikä se aina tee opiskelijasta älykkäämpää.

Kuten puhekielen ”äitiaivot” työntävät vanhaa tietoa uuden tieltä lapsen syntyessä, 10 000 sivun uuden lainsäädännön äkillinen lisääminen painoja muuttamalla siirtää matematiikkaa liikaa yhteen suuntaan. Se korvaa runojen tai koodin kirjoittamiseen käytettyjä parametreja, ja malli unohtaa vanhan sisällön uuden tieltä.

Tarvitsemme sen sijaan uuden työntekijän perehdyttämistä muistuttavan menetelmän. Hänen aivojaan ei muutettaisi fyysisesti, vaan hänelle annettaisiin kirjoja, ne luettaisiin ja tietoa päivitettäisiin jatkuvasti hänen konteksti-ikkunaansa vastaavan järjestelyn kautta.

Mallissa muisti on siis erotettava päättelystä. Lukitse ja suojaa peruspainot, kuten kyky kirjoittaa, päätellä ja soveltaa logiikkaa. Syötä uusi tieto painojen muuttamisen sijasta konteksti-ikkunaan, jotta Attention-mekanismi voi ”lukea” sen, verrata sitä lukittuihin päättelytaitoihin ja päivittää mallin laajempaa ymmärrystä.

Dynaaminen oppiminen todellisessa maailmassa toimii jo jatkuvan kontekstin, päättelyaikaisen muistin ja pysyvien käyttäjäsuhteisten vertailutasojen avulla. Perusmallin päivittäisen sopeutumisen tulisi tapahtua työssä: lääkäri oppii 95 prosenttia uusien tapausten todellisuudesta työssä ja käy kerran vuodessa täydennyskoulutuksessa muodollistaakseen suuret järjestelmämuutokset. Malli voi toimia samoin.

Luovu katastrofaalisesta unohtamisesta ja ota käyttöön vuosikokousmalli: mallin tarvitsee vain hankkia täydennyskoulutuspisteitä kahdesti vuodessa tai oppia reaaliajassa pysyäkseen ajan tasalla.

Nämä suunnitellut, erissä tehtävät peruspainojen päivitykset käyttökatkon aikana muodollistavat järjestelmätiedon tuhoamatta perustaa.

Aiemmat yritykset eivät epäonnistuneet siksi, että reaaliaikainen oppiminen olisi vaarallista, vaan siksi, että Tayn kaltaiset mallit otettiin käyttöön vihamielisissä ympäristöissä ilman sosiologisesti älykästä arkkitehtuuria, joka olisi ankkuroinut sen, mikä on ”oikein” tai totta.