Yaron Singer, Robust Intelligence:n toimitusjohtaja ja Harvardin yliopiston tietojenkäsittelytieteen professori – Haastattelusarja

Yaron Singer on Robust Intelligence:n toimitusjohtaja ja Harvardin yliopiston tietojenkäsittelytieteen ja sovelletun matematiikan professori. Yaron on tunnettu läpimurroistaan koneoppimisessa, algoritmeissa ja optimoinnissa. Aikaisemmin Yaron työskenteli Google (GOOGL ) Researchilla ja hän suoritti tohtorintutkinnon UC Berkeleyssä.

Mikä alun perin veti sinut tietojenkäsittelytieteen ja koneoppimisen alalle?

Matematiikka oli alkuun, josta siirryin tietojenkäsittelytieteeseen, joka johti minua koneoppimiseen. Matematiikka kiinnosti minua alun perin, koska sen aksioomajärjestelmä antoi minulle mahdollisuuden luoda uusia maailmoja. Tietojenkäsittelytieteessä opin eksistentiaalisten todistusten lisäksi myös niiden taustalla olevista algoritmeista. Luovuuden kannalta tietojenkäsittelytiede on rajojen piirtämistä siitä, mitä voimme ja mitä emme voi tehdä.

Minun kiinnostukseni koneoppimista kohtaan on aina ollut juurettuna kiinnostukseeni todellista dataa, melkein sen fyysistä puolta. Ottaa asiat todellisesta maailmasta ja mallintaa niitä joksikin merkitylliseksi. Voimme kirjaimellisesti suunnitella paremman maailman merkityllisellä mallinnuksella. Matematiikka antoi minulle perustan todistaa asioita, tietojenkäsittelytiede auttaa minua näkemään, mitä voimme ja mitä emme voi tehdä, ja koneoppiminen mahdollistaa minun mallintaa näitä käsitteitä maailmassa.

Mitä olivat johtavat opit sinun kokemuksistasi Harvardin yliopiston tietojenkäsittelytieteen ja sovelletun matematiikan professorina?

Minun suurin opetus Harvardin tietojenkäsittelytieteen ja sovelletun matematiikan professorina on, että se kehittää yksilön kykyä tehdä suuria asioita. Harvardilla on perinteisesti pieni henkilöstö, ja tutkijoiden odotetaan ottavan suuria haasteita ja luovan uusia aloja. On oltava rohkeita. Tämä on erinomainen valmistautuminen aloittaa luokan luova startup, joka määrittelee uuden alueen. En välttämättä suosittele menemään Harvardin tutkijan urapolkua ensin, mutta jos selviät siitä, startupin rakentaminen on helpompaa.

Voitko kuvata ’aha’-hetkeäsi, jolloin ymmärsit, että kehittyneet tekoälyjärjestelmät ovat haavoittuvaisia huonolle datalle, jolla on joitakin kauaskantoisia seurauksia?

Kun olin väitöskirjatutkija UC Berkeleyssä, otin jonkin aikaa pois tekemään startupia, joka rakensi koneoppimismalleja markkinointiin sosiaalisissa verkostoissa. Tämä oli vuonna 2010. Meillä oli valtavat määrät dataa sosiaalisista verkostoista, ja me koodasimme kaikki mallit itse. Rahoitukselliset seuraukset jälleenmyyjille olivat melko merkittäviä, joten seurasimme mallien suorituskykyä tarkkaan. Koska käytimme sosiaalisen median dataa, siinä oli paljon virheitä sekä syötteenä että laskennassa. Näimme, että hyvin pienet virheet johtivat suuriin muutoksiin mallin tulokseksi ja voivat johtaa huonoihin taloudellisiin lopputuloksiin jälleenmyyjille, jotka käyttivät tuotetta.

Kun siirryin työskentelemään Google+:ssa (niille, jotka muistavat), näin saman vaikutuksen. Dramaattisemmin, järjestelmissä kuten AdWords, jotka tekivät ennusteita siitä, kuinka todennäköisesti ihmiset klikkaavat mainokseen avainsanojen perusteella, huomasimme, että pienet virheet syötteenä johtivat hyvin huonoihin ennusteisiin. Kun näet tämän ongelman Google-mittakaavassa, ymmärrät, että ongelma on yleinen.

Nämä kokemukset muovasivat voimakkaasti tutkimukseni fokusta, ja vietin aikaa Harvardissa tutkimalla, miksi tekoälymallit tekevät virheitä ja miten suunnitella algoritmeja, jotka voivat estää malleja tekemästä virheitä. Tämä johti myöhemmin useisiin ’aha’-hetkiin ja lopulta Robust Intelligence:n luomiseen.

Voitko jakaa Robust Intelligence:n synnyn tarinan?

Robust Intelligence alkoi tutkimuksesta, joka oli alun perin teoreettinen ongelma: mitkä takuut voimme antaa tekoälymallien tekemille päätöksille. Kojin oli opiskelija Harvardissa, ja työskentelimme yhdessä, aluksi kirjoittamalla tutkimuspaperia. Se alkaa siis kirjoittamalla paperia, jossa määritellään, mitä on teoreettisesti mahdollista ja mitä ei. Nämä tulokset jatkuivat myöhemmin ohjelmaan, jossa suunnitellaan algoritmeja ja malleja, jotka ovat kestäviä tekoälyvirheille. Rakensimme järjestelmiä, jotka voivat suorittaa näitä algoritmeja käytännössä. Sen jälkeen perustaa yhtiö, jossa organisaatiot voivat käyttää järjestelmää, oli luonnollinen seuraava askel.

Monia ongelmia, joita Robust Intelligence ratkaisee, ovat hiljaiset virheet, mitkä ne ovat ja mikä tekee niistä niin vaarallisia?

Ennen kuin annan teknisen määritelmän hiljaisille virheille, on syytä ottaa askel taaksepäin ja ymmärtää, miksi meidän pitäisi välittää tekoälymallien tekemistä virheistä. Syy, miksi me välitämme tekoälymallien tekemistä virheistä, on seuraamuksia näistä virheistä. Maailma käyttää tekoälyä automatisoimaan kriittisiä päätöksiä: kuka saa liiketoimintalainan ja mihin korkoon, kuka saa terveydenhuollon kattavuuden ja mihin hintaan, mitkä naapurustot poliisi pitäisi partioida, kuka on todennäköisesti paras ehdokas työpaikkaan, miten meidän pitäisi järjestää lentokenttäturvallisuus jne. Se, että tekoälymallit ovat erittäin virhealttiita, tarkoittaa, että automatisoimalla nämä kriittiset päätökset me periimme suuren riskin. Robust Intelligence:ssä kutsumme tätä “tekoälyriskiksi” ja yrityksen tehtävänä on poistaa tekoälyriski.

Hiljaiset virheet ovat tekoälymallien virheitä, joissa tekoälymalli vastaanottaa syötteen ja tuottaa ennusteen tai päätöksen, joka on väärä tai harhaanjohtava. Pinnalta kaikki näyttää järjestelmältä OK, koska tekoälymalli tekee sitä, mitä se on tarkoitettu tekemään toiminnallisesti. Mutta ennuste tai päätös on virheellinen. Nämä virheet ovat hiljaisia, koska järjestelmä ei tiedä virheestä. Tämä voi olla paljon pahempaa kuin tilanne, jossa tekoälymalli ei tuota tulosta, koska se voi kestää kauan, ennen kuin organisaatiot toteavat, että heidän tekoälyjärjestelmänsä on viallinen. Sitten tekoälyriski muuttuu tekoälyvirheiksi, joilla voi olla vakavia seurauksia.

Robust Intelligence on suunnitellut periaatteessa tekoälypalomuurin, jota pidettiin aiemmin mahdottomana. Miksi tämä on niin suuri tekninen haaste?

Toinen syy, miksi tekoälypalomuuri on haaste, on, että se menee vastakkaiseen suuntaan kuin mitä koneoppimisyhteisöllä on ollut aiemmin. Koneoppimisyhteisön aiempi lähestymistapa on ollut, että virheiden poistamiseksi on syötettävä enemmän dataa, myös pahaa dataa malleihin. Tekemällä näin, mallit koulutetaan ja oppivat itse korjaamaan virheet. Ongelma tässä lähestymistavassa on, että se aiheuttaa mallin tarkin luokittelun dramaattisen laskun. Parhaat tulokset esimerkiksi kuvissa aiheuttavat tekoälymallin tarkin luokittelun laskun 98,5 prosentista 37 prosenttiin.

Teckoälypalomuuri tarjoaa toisen ratkaisun. Me erottamme virheen tunnistamisen ongelman ennusteen luomisesta, mikä tarkoittaa, että palomuuri voi keskittyä yhteen tiettyyn tehtävään: määrittämään, aiheuttaako datapiste virheellisen ennusteen.

Tämä oli itsessään haaste, koska ongelmana on antaa ennuste yksittäisestä datapisteestä. On paljon syitä, miksi mallit tekevät virheitä, joten rakentaa teknologiaa, joka voi ennustaa nämä virheet, ei ollut helppoa. Olemme erittäin onnekkaita saadessamme insinöörit, joilla meillä on.

Miten järjestelmä voi auttaa estämään tekoälyharhan?

Mallin harha johtuu eroavaisuudesta datan välillä, jolla malli on koulutettu, ja datan, jota se käyttää ennusteisiin. Palataksesi tekoälyriskiin, harha on suuri ongelma, joka liittyy hiljaisiin virheisiin. Esimerkiksi tämä on usein ongelma aliedustetuilla väestöryhmillä. Malli voi olla harhaisa, koska se on nähnyt vähemmän dataa kyseisestä väestöryhmästä, mikä vaikuttaa dramaattisesti mallin suorituskykyyn ja ennusteiden tarkin luokittelun tarkkuuteen. Tekoälypalomuuri voi hälyttää organisaatioita näistä datavirheistä ja auttaa mallia tekemään oikein päätöksiä.

Mitkä ovat muita riskejä organisaatioille, joita tekoälypalomuuri auttaa estämään?

Mikä tahansa yhtiö, joka käyttää tekoälyä automatisoimaan päätöksiä, erityisesti kriittisiä päätöksiä, tuo automaattisesti riskin. Paha data voi olla niin vähäistä kuin nollan syöttäminen ykkösen sijaan, ja se voi johtaa merkittäviin seurauksiin. Riippumatta siitä, onko riski väärä lääketieteellinen ennuste tai väärä ennuste lainoista, tekoälypalomuuri auttaa organisaatioita estämään riskin kokonaan.

Onko jotain muuta, mitä haluaisit jakaa Robust Intelligence:sta?

Robust Intelligence kasvaa nopeasti ja saamme paljon hyviä ehdokkaita hakemuksia. Mutta yksi asia, jota haluan korostaa niille, jotka harkitsevat hakemista, on, että tärkein ominaisuus, jota etsimme ehdokkaista, on heidän intohimonsa yrityksen missioon. Tapaa paljon ehdokkaita, jotka ovat vahvoja teknisesti, joten se on todella ymmärtää, ovatko he todella intohimoisia poistamaan tekoälyriskin ja tekemään maailmasta turvallisemman ja paremman paikan. Maailmassa, johon olemme menossa, monet päätökset, jotka ihmiset tekevät tällä hetkellä, tullaan automatisoimaan. Riippumatta siitä, pidämmekö siitä tai emme, se on tosiasia. Ottaen huomioon tämän, me kaikki Robust Intelligence:ssä haluamme, että automaattiset päätökset tehdään vastuullisesti. Kuka tahansa, joka on innoissaan tekemästä vaikutusta, joka ymmärtää, miten se voi vaikuttaa ihmisten elämään, on ehdokas, jonka etsimme liittymään Robust Intelligence:en. Me etsimme sitä intohimoa. Me etsimme niitä, jotka luovat tämän teknologian, jonka koko maailma käyttää.

Kiitos hienosta haastattelusta, nautin kuullessani näkemyksistäsi tekoälyharhan estämisestä ja tekoälypalomuurin tarpeesta, lukijoille, jotka haluavat oppia lisää, suosittelemme vierailemaan Robust Intelligence:ssä.