Steve Nemzer, Sr. johtaja, AI Growth & Innovation, TELUS Digital – Haastattelusarja

Steve Nemzer, Sr. johtaja, AI Growth & Innovation, TELUS Digital, johtaa aloitteita, jotka keskittyvät edistämään tekoälykoulutusdataa ja -infrastruktuuria seuraavan sukupolven tekoälyjärjestelmiä varten. Hänen työnsä kattaa datasettien kehittämisen syvän tutkimuksen malleja, vahvistusoppimisympäristöjä, maailmanmallidatan, suvereenin tekoälyaloitteita ja tekoälyriskejä vähentävien kehysten kehittämistä, ja siinä on vahva painopiste vastuullisissa tekoälykäytännöissä, kuten datanharhan osoittamisessa ja reilassa työskentelyolosuhteissa tekoälykouluttajille. Uransa alussa Nemzer perusti VeriTest Labsin, joka auttoi varhaisia teknologiajohtajia, mukaan lukien Microsoft (MSFT ), Intel (INTC ), Oracle (ORCL ) ja Sun Microsystems, luomaan vakuuttavia kolmannen osapuolen ohjelmistoympäristöjä ennen kuin yhtiö myytiin Lionbridgelle.

TELUS Digital on globaali teknologiapalveluyhtiö, joka auttaa organisaatioita suunnittelemaan, kehittämään ja käyttämään digitaalisia alustoja ja tekoälyvoimaisia ratkaisuja. Toimien kymmenissä maissa, yhtiö tarjoaa palveluja, kuten tekoälykoulutusdataa ja -merkintää, digitaalista tuotekehitystä ja asiakaskokemushallintaa. Sen alustat ja palvelut tukevat yrityksiä eri aloilla, mukaan lukien teknologia, rahoitus, terveydenhuolto, tietoliikenne ja pelit, kun ne modernisoi toimintojaan ja käyttöönottoavat edistyneitä tekoälyominaisuuksia.

Miten näet siirtymisen kielenjohtaisesta generatiivisesta tekoälystä maailmanmalleihin, jotka pyrkivät ymmärtämään todellisen maailman tilanteita ja tuloksia, erityisesti nykyisessä roolissasi TELUS Digitalissa?

Suuret kielenmallit (LLM) ovat perustaltaan mallinnusjärjestelmiä. Ne generoivat vastauksia ennustamalla seuraavan tokenin perustuen malleihin, jotka on opittu suurista, staattisista korpuksista. Vaikka tämä voi näyttää päättelyltä, malli ei todella mallinna, miten toimet muuttavat maailman tilaa.

Maailmanmallit lähestyvät ongelmaa toisella tavalla. Sen sijaan, että ennustavat seuraavan sanan tai tokenin, ne pyrkivät ennustamaan seuraavan järjestelmän tilan mallimalla tilisiirtymisiä. Tämä mahdollistaa järjestelmien simuloimisen, miten ympäristöt kehittyvät toimien seurauksena. Käytännössä se avaa oven hypoteettiselle päättelylle, jossa malli voi arvioida eri mahdollisia tuloksia ennen päätöksen tekemistä. Interaktiivisille järjestelmille se voi tukea luotettavampaa päätöksentekoa ja suunnittelua.

Tämä siirtymä muuttaa myös sitä, miten ajattelemme vastuullisesta käyttöönotosta. Perinteisillä generatiivisilla tekoälyjärjestelmillä suurin osa keskittyneisyydestä on ollut ongelmilla, kuten harhaisuudella ja puolueellisuudella. Kun mallit siirtyvät ympäristöjen ja toimien päättelyyn, muut riskit tulevat merkittäviksi.

Esimerkiksi organisaatioiden on otettava huomioon “sim-to-real”-kuilu, jossa käyttäytymisen oppiminen simuloituihin ympäristöihin ei välttämättä siirry puhdasasti todellisiin olosuhteisiin. Jakautumisen siirtymä tulee myös tärkeäksi huolenaiheeksi, koska ympäristöt, joissa mallit kohtaavat käyttöönotossa, voivat poiketa koulutusdatasta.

Tässä kohtaa testaus ja validointi tulevat kriittiseksi, mikä on suuri painopiste roolissani TELUS Digitalissa. Kun tekoälyjärjestelmät siirtyvät kielen generoimisesta järjestelmiin, jotka vuorovaikuttavat ympäristöjen kanssa ja tekevät päätöksiä, organisaatioiden on oltava tiukat arviointikehykset varmistamaan, että mallit käyttäytyvät luotettavasti todellisissa olosuhteissa.

Monet ihmiset tuntevat suuret kielenmallit, mutta vain harvat ymmärtävät maailmanmalleja. Yksinkertaisilla sanoilla, mikä ongelma maailmanmallit pyrkivät ratkaisemaan, jota LLM:t perustavasti kamppailevat?

Maailmanmalli on järjestelmä, joka voi ennustaa “mitä tapahtuu seuraavaksi” annetussa tilassa ja toiminnassa. Kaava on: Tilanne + Toiminta → Seuraava tilanne

Jos pidän omenaa ja päästän sen menemään, maailmanmalli ennustaa, että omena putoaa. Se ei vain tiedä, miltä omenat “näyttävät” tai mitä ihmiset “sanovat” omenoiden putoamisesta – se ennustaa seurauksen perustuen fysiikan ymmärtämiseen. Sofistikoitu maailmanmalli ennustaa, mitä tapahtuisi, jos tekisin saman asian Kansainvälisellä avaruusasemalla verrattuna maan pinnalle.

Tämä on erilaista kuin LLM. LLM ennustaa: “Annettua tokenien jonoa, mikä token tulee seuraavaksi?” Se on koulutettu tekstiin – mitä ihmiset ovat kirjoittaneet maailmasta, ei itse maailmasta. Se voi kertoa, että pudotetut omenat putoavat, koska se on lukenut siitä. Mutta sillä ei ole sisäistä fysiikan moottoria, joka simuloi putoamisen.

Toisin sanoen LLM:t ovat hyviä tilastollisesti ennustamaan seuraavan sanan vastauksessa kysymyksiin, mutta todellisen maailman ymmärtäminen menee kielen kuvaamisen ja koheesion yli. Maailmanmallit pyrkivät ymmärtämään, miten tilanteet kehittyvät askel askeleelta, mikä on seuraava tilanne annetussa tilassa ja toiminnassa, mitkä rajoitukset ovat.

Maailmanmallit kuvataan usein salliviksi tekoälyjärjestelmien simuloimiseen ennen toimintaa. Miltä se näyttää käytännössä, ja kuinka lähellä olemme näkemästä sitä toimivana tutkimusympäristön ulkopuolella?

Haaste vastata tähän kysymyksiin on, että termi “maailmanmalli” käytetään melko löyhästi, ja merkitys muuttuu riippuen kontekstista. Yksinkertainen maailmanmallin määritelmä on, että ne sallivat agentin simuloida nykyistä tilannetta ja ympäristöä ja ennustaa tulevia tiloja ja päättelyä seurauksista. Tutkijat luokittelevat maailmanmalleja hieman tarkemmin perustuen niiden edustus- ja prosessointimenetelmiin. On olemassa latenteja maailmanmalleja, jotka tiivistävät “olemus” ympäristöstä tiiviiseen, kohdistettuun avaruuteen. On olemassa generatiivisia maailmanmalleja, jotka “ymmärtävät” fysiikkaa luodakseen kehys-kehykseltä visualisoinnit, ja on olemassa Joint-Embedding Predictive Architecture (JEPA) -malleja, jotka ennustavat tuloksia aiemmista toimista.

Latentit maailmanmallit ovat jo tutkimuslaboratorioiden ulkopuolella ja auttavat sovelluksissa, kuten itseohjautuvassa ajossa, varastotoiminnassa, teollisissa toimissa ja maataloudessa. Generatiiviset maailmanmallit ovat näkyvissä synthetisen datan luomisessa pelimoottorikehitykseen, itseohjautuvissa käyttötapauksissa, ruumiillistetussa tekoälyssä videostimulaatiota ihmismäisille liikkeille ja arkkitehtuurin renderöintiin,

JEPA-lähestymistapa, jota teollisuuden johtajat kuten Yan LeCun suosivat, ennustaa tuloksia abstraktissa edustusavaruudessa pikseleiden sijaan. Robotit ovat pääasiassa rajoittuneet kontrolloiduihin ympäristöihin, mutta JEPA on muuttamassa sitä, sallien roboteille siirtyä avoimiin, todellisiin ympäristöihin. Itseohjautuvat ajoneuvot ovat hyvä esimerkki – jotkut käyttävät Genie 3:aa luomaan hyperrealistisia, interaktiivisia simulaatioita koulutukseen ja paremmin käsitelläkseen harvinaisia tapahtumia, kuten rakennusalueita.

Ilmeisesti on paljon enemmän turvallisuutta ja luotettavuutta vaadittavaa testausta edellyttääkseen näiden mallien skaalautumista ulos hiekkalaatikosta ja todelliseen maailmaan.

Mistä yritysten kannalta odotat maailmanmalleja tuottavan merkittävää arvoa ensin, olipa se robottiikassa, itseohjautuvissa päätöksenteossa, digitaalisissa kaksosissa tai abstrakteissa liiketoimintaympäristöissä?

Luulen, että digitaaliset kaksoset ovat todennäköisesti toimittamaan käytännön arvoa ensin. Toistamalla todellisen maailman järjestelmän tilaa, jotta voimme testata skenaarioita ennen toimintaa. Esimerkiksi toimittajaverkoston osalta valmistaja voi luoda kaksosversion komponenttiverkostostaan. Simulaatio voidaan syöttää anturidataa, lokitietoa, telemetriatietoa ja vastata kysymyksiin kuten “Mitä tapahtuisi, jos Hormuzinsalmen suljettaisiin?” Jotta voimme testata uudelleenohjattuja toimituksia ennen kuin muuttaisimme todellisia logistiikkaa. Tämä auttaa meitä siirtymään valvomaan elävää järjestelmää simuloimaan elävää järjestelmää.

Merkittävää arvoa maailmanmalleista robottiikassa on myös käynnissä rinnakkain. Saada robotit ymmärtämään perusfysiikan ominaisuuksia, kuten kitkaa pinnalla ottaessa esine, potkaisee robottiikan käyttöönoton korkeaan vauhtiin.

Paljon uraasi on keskittynyt datasettien keräämiseen, merkintöjen ja validoinnin. Miten datahaasteet muuttuvat siirryttäessä staattisesta tekstikoulutuksesta opettamiseen järjestelmille, miten maailma käyttäytyy ajan myötä?

Datan keräämisen tilanne maailmanmallien mahdollistamiseksi vaatii suuren käännöksen eilisen LLM-koulutusmenetelmistä. Ensinnäkin, meillä ei ole valtavaa esikoulutusdataa saatavilla, petatavua Common Crawlista ja miljardeja verkkosivuja. Jotkut robottiikan tutkijat ovat spekuloineet, että meillä on vain 1/1000 osa dataa, jota tarvitaan fyysisten älymystön ja maailmanmallien kouluttamiseen, saadakseen vastaavan suorituskyvyn kuin GPT2.

Joten se vie jonkin aikaa rakentaa ne datasetit. Robottiikan tapauksessa meidän tarvitaan miljoonia tunteja merkittyjä egosentrisiä monisensoridatasetteja. Jotkut ovat teleohjattuja, jotkut ovat synthetisistä ympäristöistä, kuten Isaac Sim. TELUS Digitalissa olemme tehneet käännöksen tekstistä multimodaaliseen ja monisensoridatasetteihin ja simulaatiotietoihin. Tietysti meitä auttaa vahva datakeräämisen ja -merkinnän tausta tietokonegrafiikassa. Olemme olleet edelläkävijöitä siinä useita vuosia.

Lisäksi datan niukkuuden ja annotoidun hienosäätödatan, tulee olemaan paljon muita koulutushaasteita vahvistamassa vahvistusoppimisen skaalautumista. Saattaa olla uusia muunnoksellisia (ei sanaleikkiä) paradigmoja, kuten GPT ja RL-käsitteitä, joita tarvitaan kiihdyttämään tehokkuuden läpimurtoja maailmanmallien koulutusmenetelmissä.

Maailmanmallit vaikuttavat päätöksiin eikä vain generoi tuloksia. Mitkä uudet turvallisuuden tai hallinnon riskit se esittää verrattuna generatiivisiin tekoälyjärjestelmiin?

On paljon turvallisuuden ja hallinnon riskejä, koska maailmanmallit on perustaltaan tarkoitettu tukemaan agenteja. Kaikki meidän nykyisistä tekoälyagentteja koskevat huolenaiheet ovat edelleen voimassa maailmanmallitilanteessa. Tarvitaan ihmisen valvontaa kaikissa tärkeissä päätöksenteossa, olipa se liikenteen turvallisuus, ammattiturvallisuus, terveydenhuolto, talous tai päivittäiset toiminnot.

Esimerkki maailmanmalleille on kuilu simulaatiotietojen ja todellisen maailman ympäristöjen välillä. Mikroskooppinen pinnanvaihtelu voi tehdä todellisen maailman epäjärjestyksiä roboteille, jotka on koulutettu simulaatioympäristöissä.

Toinen riski liittyy ihmisen käyttäytymiseen. Kun järjestelmät tulevat yhä enemmän itseohjautuviksi, ihmiset alkavat luottaa niihin voimakkaasti, ja valvonta voi tulla laiskaksi, ja lopulta järjestelmä ei saa tarvittavia uudelleenkalibrointeja.

Puolueettomuus ja luottamus ovat edelleen suuria esteitä tekoälyn omaksumiselle. Miten nämä huolenaiheet kehittyvät, kun tekoälyjärjestelmät alkavat mallintaa ja toimia monimutkaisissa todellisissa tai sosiaalisissa ympäristöissä?

Yleisöltä johtajistoon, luottamus ja luottamus tekoälymalliin on jo alhainen ja en näe sitä muuttuvan paljon lyhyellä aikavälillä.

Huolenaiheet tekoälyn voimasta, joka on keskittynyt liian vähän käsiin, tekoälyn vievän työpaikkoja, puolueellisuuden aiheuttavan aliedustettujen ryhmien haittaa, mallien tekemien päätösten vaikuttavan terveyteen, uraan ja talouteen, malleja käyttävien IP:tä ilman lupaa, sekä huolenaiheet tekoälyväärennöksistä, on jo hyvin korkea. Johtajat huolehtivat työvoiman siirtymisestä, tietosuojasta ja sääntelyn noudattamisesta, sekä menettämisestä kilpailijoille tekoälykilpailussa.

Viimeaikaiset kehityssuunnat uutisissa tekoälyperusmallinrakentajien painostamisesta rentouttamaan käyttöehtoja, kuten itseohjautuvia aseita tai joukkovainojaa, vain vahvistaa näitä huolenaiheita. Laajempi maailmanmallipohjaisen robottiikan käyttöönotto tekee saman.

Toisaalta näemme laajaa tekoälyn omaksumista ja luottamusta. Esimerkki on tapa, jolla koodausagentit ovat nousseet viime kuukausina. Ohjelmistokehitysjohtajat luottavat koodausagenteihin, ja on perustavanlaatuinen muutos ohjelmistokehityksessä, alkaen PRD-kehityksestä loppujen lopuksi julkaisun jälkeiseen regressiotestaukseen. Ohjelmistokehityksen maailma kehittyy valonnopeudella, ja paljon siitä johtuu luottamuksesta korkean suorituskyvyn koodausagenteihin. Kun käyttäjien luottamus kasvaa muissa käyttötapauksissa, odotan, että omaksuminen kasvaa samalla tavalla.

Ratkaisut luottamuksen rakentamiseen sisältävät monipuolisia tietoja ja ympäristöjä koulutusvaiheessa, sekä laajaa punainen joukkueen testausta ja stressitestaus turvallisuuden varmistamiseksi ennen käyttöönottoa. Proaktiivinen sääntelyn valvonta on välttämätöntä. Jotkut ovat ehdottaneet, että perusmallinrakentajien on annettava “Sosiaalisen vaikutuksen raportit”, samoin kuin ympäristövaikutusarvio (EIA), ennen kuin uusia malleja julkaistaan.

TELUS Digitalissa suurin osa työstä liittyy tekoälyn käyttöönottoon laajassa mittakaavassa todellisille yrityksille ja todellisille käyttäjille. Miten maailmanmallien kaltaiset ideat leikkaavat käytännön huolenaiheita, kuten avoimuutta, työvoiman vaikutusta ja asiakasluottamuksen ylläpitämistä?

Selventääkseni, TELUS Digital toimii sekä suoraan perusmallinrakentajien kanssa, että myös yritysten kanssa, jotka käyttöönottoavat tekoälymalleja. Meidän pelikenttä on loppupäästä:

Kysymys käytännön huolenaiheista liittyy edelliseen kysymykseen luottamuksesta. Otetaan esimerkiksi työvoiman luottamus. Kun maailmanmallipohjaiset tekoälyt tulevat yhä enemmän yleisiksi, johtajien on oltava avoimia työntekijöilleen, alihankkijoilleen ja asiakkaille. Selkeät viestintä on tarpeen siitä, mitä mallit ovat hyviä, miten ne on koulutettu, mitä dataa on käytetty koulutukseen, mitä varotoimia on otettu ja missä kohtaa ihmisen valvonta tulee. Yritysjohtajien on osoitettava nykyiselle työvoimalle uusien mallien arvo, esimerkiksi tekemällä kaiken rutiininomaisen työn. Ja heidän on osoitettava siirtymispolkuja vaikuttuneille työntekijöille, jotka siirtyvät uusiin työpaikkoihin, kun edelliset tehdään yhä enemmän maailmanmallipohjaisilla tekoälyllä.

On kasvava kuilu tekoälytutkijoiden ymmärryksen ja yleisön ymmärryksen välillä. Miten organisaatiot voivat viestiä edistystä, kuten maailmanmalleja, tavalla, joka rakentaa luottamusta ilman yliarviointia heidän kyvyistään?

Taas, se tulee alemmaksi avoimuudesta mallien rajoituksista ja siitä, mitä mallit ovat hyviä. Viestintä siitä, miten mallit on koulutettu, miten puolueettomuutta on torjuttu. Mitä ihmisen valvontaa on paikalla. Muutamia todellisia maailman esimerkkejä mallien kyvyistä ja sovelluksista, yhdistettynä pitkäaikaisiin tutkimuksiin, voi mennä pitkälle lisäämään yleisen ja työntekijöiden luottamusta.

Lopulta, mikä on yksi yleinen väärinkäsitys tekoälymaailmanmalleista, joko liian optimistinen tai liian varovainen, jonka luulet olevan korjattava juuri nyt?

Rajoitettuun määrään, jossa yleisö on perillä maailmanmalleista, yksi väärinkäsitys on, että maailmanmallien on ymmärrettävä kaikki fysiikkaa ja tieteen aloja, jotta ne voisivat toimia. Maailmanmallit tulevat ulos nopeammin kuin luulet, koska yksittäiset sovellukset voidaan karsia. Esimerkiksi itseohjautuva ajoneuvo tarvitsee vain ymmärtää liikenteen dynamiikkaa ja tienkäyttäjien fysiikkaa, ja miten nykyiset olosuhteet (esim. olemalla lähellä alkeiskoulua tai suurten SUV-ajoneuvojen runsasta määrää) vaikuttavat heidän näkökykyynsä ja päätöksentekoon. Itseohjautuva ajoneuvo ei tarvitse fysiikkaa, joka liittyy esimerkiksi soufflé-kakun paistamiseen, toimiakseen.

Kiitos hienosta haastattelusta, lukijat, jotka haluavat oppia lisää, kannattaa vierailla TELUS Digital-sivustolla.