Yu Su, NeoCognitionin perustaja ja toimitusjohtaja – Haastattelusarja

Yu Su, NeoCognitionin perustaja ja toimitusjohtaja, on pitkäaikainen tekoälytutkija, jonka ura kattaa akateemisen tutkimuksen, yritysten tekoälyn ja edistyneiden agenttijärjestelmien. NeoCognitionin johtamisen lisäksi hän toimii apulaisprofessorina ja innovaatiotutkijana Ohiosta, missä hänen työnsä on keskittynyt tekoälyagentteihin, päätöksentekojärjestelmiin ja koneoppimiseen. Hänen taustansa kattaa myös yli kuuden vuoden ajan Senior Researcherina Microsoftilla, missä hän työskenteli johtavien tutkijoiden, kuten Percy Liangin, kanssa keskustelutekoälyjärjestelmissä Outlookiin käyttäen semanttista parsimista. Microsoftin, akateemisen ja tutkimuslaitosten, kuten IBM T.J. Watson Research Centerin, rooleissa Yu Su on luonut maineensa tekoälyjärjestelmien kehittämisessä, jotka voivat päätellä, oppia ja vuorovaikuttaa monimutkaisissa digitaalisissa ympäristöissä, auttaen siltaamaan kuilun edistyksellisen tutkimuksen ja todellisten sovellusten välillä.

NeoCognition on tekoälyagenttien tutkimusyhtiö, joka on keskittynyt kehittämään niin sanottua “erikoistunutta älykkyyttä” – tekoälyjärjestelmiä, jotka jatkuvasti oppivat ja paranevat kokemuksesta. Johtavien tekoälytutkijoiden perustama yhtiö pyrkii visioon, joka menee statisten suurten kielen mallien ohi kohti agentteja, jotka voivat kehittää syvää asiantuntemusta tietyillä alueilla. Sen tutkimus keskittyy alueille, kuten jatkuva oppiminen, päätöksenteko, suunnittelu, työkalujen käyttö ja monen agentin yhteistyö, tavoitteena luoda tekoälyjärjestelmiä, jotka tulevat yhä kykeneviksi ja luotettaviksi ajan myötä. Yhdistämällä koneoppimisen edistysten kanssa rakenteellisen päätöksenteon ja sopeutuvan oppimisen menetelmiä, NeoCognition pyrkii muokkaamaan seuraavan sukupolven tekoälyagentteja, jotka voivat ratkaista yhä monimutkaisempia todellisen maailman tehtäviä.

Monet yritykset kiirehtivät julkaisemaan yleisiä tekoälyavustajia, mutta me kuulemme yhä enemmän huolenaiheita luotettavuudesta, kun nämä järjestelmät siirtyvät todellisiin tuotantoympäristöihin. Miksi uskot, että niin monet nykyiset tekoälyagentit kamppailevat ulkona ohjatuissa demoissa?

Useimmat nykyiset tekoälyagentit kamppailevat tuotannossa, koska ne ovat edelleen perustavanlaatuisesti yleisiä, toimien ilman kestävää ymmärrystä ympäristöstä, jossa ne toimivat. Ne voivat usein suorittaa tehtävän kerran demossa, mutta se on eri asia kuin kehittää toistuva arvostelukyky todellisessa operatiivisessa järjestelmässä.

Nykyiset mallit ovat vaikuttavia kuvioiden tunnistajia, mutta ne puuttuvat edelleen mekanismeista, joita ihmiset käyttävät luotettaviksi asiantuntijoiksi. Ihmiset eivät tule luotettaviksi muistamalla erillisiä tehtäviä. Me erikoistumme oppimalla tietyn maailman rakennetta: työnkulkuja, rajoituksia, suhteita, työkaluja, prioriteettejä ja seurauksia, jotka määrittelevät ammatin tai organisaation. Ajan myötä me rakennamme sisäisen toimintamallin kyseisestä ympäristöstä, ja se malli mahdollistaa hyvät päätökset johdonmukaisiksi ja toistettaviksi.

Useimmat tekoälyagentit eivät rakenna kyseistä operatiivista ymmärrystä. Ne luottavat voimakkaasti ohjaus-, hakurakenteiden tai orkesterointikerrosten avulla, jotka auttavat niitä suorittamaan erillisiä toimia, mutta ne ovat edelleen pääosin improvisoimassa jokaisella uuden tilanteen sattuessa. Siksi suorituskyky usein menee rikki, kun ympäristö muuttuu ja enemmän, kun se tulee epäjärjestyksi, dynaamiseksi tai korkean panoksen.

Puuttuva osa on erikoistuminen. Ihmiset menestyvät, koska voimme jatkuvasti sopeutua muuttuviin ympäristöihin ja tulla asiantuntijoiksi niiden sisällä jatkuvan oppimisen kautta. Uskomme, että tekoälyagentit tarvitsevat samanlaisen kyvyn: kyvyn oppia paikallisen alueen rakennetta syvälti tarpeeksi toimia todellisella taidolla.

NeoCognition on kuvaillut visiotaan rakentamalla agenteja, jotka voivat jatkuvasti oppia ja sopeutua enemmän kuin ihmiset. Miltä se näyttää teknisesti verrattuna statisen hienosäätöön tai hakupohjaisiin lähestymistapoihin, joita monet yritykset tällä hetkellä luottavat?

Useimmat yritysten tekoälyjärjestelmät parantavat suorituskykyä joko hienosäätämällä mallia kerran tai hakemalla asiaankuuluvaa tietoa johtopäätöksen aikana. Nämä lähestymistavat voivat olla hyödyllisiä, mutta ne eivät perustavasti salli agentin kehittää kehittyvää asiantuntemusta alueella.

Hienosäätö on tyypillisesti staattista koulutuksen jälkeen. Hakujärjestelmät auttavat tietojen löytämisessä, mutta tietojen hakeminen ei ole sama asia kuin alueen asiantuntemuksen kehittäminen tai käyttäytymisen sopeuttaminen kokemuksen perusteella. Monissa tapauksissa agentti edelleen puuttuu kestävä malli ympäristöstä, jossa se toimii.

Kun ihminen liittyy yritykseen, hän ei tule tehokkaaksi vain siksi, että hän voi etsiä asiakirjoja. Hän kehittää hitaasti arvostelukykyä ymmärtämällä, miten organisaatio toimii, ja asiantuntemus kehittyy jatkuvasti tämän sisäisen mallin viimeistelyssä.

Uskomme, että seuraavan sukupolven agenttien on oltava samanlainen oppimismekanismi. NeoCognitionissa keskitymme mahdollistamaan agenteille muodostaa nämä kehittyvät operatiiviset mallit, jotta ne voivat jatkuvasti erikoistua ja parantaa alueella ajan myötä, sen sijaan, että ne jatkuvasti aloittavat alusta tai riippuvat jatkuvasta ihmisten uudelleen suunnittelusta.

Näyttää olevan kasvava ero tekoälyn kokeilun ja operatiivisen luotettavuuden välillä. Yritykset voivat onnistua agenttien prototyyppien kehittämisessä sisäisesti, mutta niiden käyttöönotto laajassa mittakaavassa on kokonaan toinen haaste. Mitä organisaatiot aliarvioivat tästä siirtymästä?

Monet organisaatiot aliarvioivat, kuinka dynaamisia todelliset operatiiviset ympäristöt todella ovat. Agentti, joka suorittaa 85 prosentin tarkkuudella, voi kuulostaa vahvalta testauksessa, mutta yrityksen mittakaavassa se kääntyy jatkuvaksi virheiden ja palautus tilanteiden virtana, jotka ihmisten tiimien on hallinnoitava. Haaste muodostuu vielä merkittävämmäksi monivaiheisissa työnkulkujen yhteydessä, missä epäonnistumiset kertyvät järjestelmissä ja tehtävissä, mikä tekee valvontaa, puuttumista ja vastuuta paljon vaikeammaksi kuin monet organisaatiot aluksi odottavat.

Yritykset käsittelevät edelleen käyttöönottoa orkesteroinnin tai ohjauksen ongelmana, kun todellisuudessa se on myös oppimisen ongelma. Haastava osa ei ole vain saada agentti suorittamaan tehtävän. Se on mahdollistaa järjestelmän kehittää kestävä osaaminen ja arvostelukyky dynaamisessa operatiivisessa ympäristössä.

Viimeistelyn, ohjauksen, valvonnan ja uudelleen suunnittelun taakka kuormittaa edelleen voimakkaasti ihmisten tiimejä tänään. Se on usein merkki siitä, että järjestelmä edelleen puuttuu operatiivinen ymmärrys; ne ohjataan manuaalisesti sen läpi joka kerta. Se ei ole polku mittakaavaan tai luotettavuuteen.

Yksi tekoälyteollisuuden keskeinen teema on hallinto, varotoimet ja käytäntöjen noudattaminen. NeoCognition kuitenkin väittää, että hallinto yksin ei riitä. Miksi uskot, että luotettavuus lopulta vaatii järjestelmiä, jotka sopeutuvat jatkuvasti ympäristöönsä sen sijaan, että seuraavat vain statisia sääntöjä?

Hallinto ja varotoimet ovat erittäin tärkeitä, mutta statiset säännöt yksin eivät voi ratkaista luotettavuuden monimutkaisissa ympäristöissä.

Tuotantotasoiset operatiiviset järjestelmät muuttuvat jatkuvasti. Työnkulut kehittyvät, työkalut päivittyvät, käytäntöjä muutetaan ja odottamattomia tilanteita ilmenee, joita ei voida aina ennustaa etukäteen. Jos agentti tuntee vain, miten noudattaa ennalta määriteltyjä sääntöjä ilman ymmärrystä ympäristöstä, jossa se toimii, se kohtaa lopulta tilanteita, joita nämä säännöt eivät ole otaneet huomioon.

Ihmisten luotettavuus tulee arvostelukyvystä, ei pelkästään joustamattomasta noudattamisesta käsikirjoituksia, vaan koska kehittämme arvostelukykyä ymmärtämällä maailman rakennetta ja rajoituksia ympärillämme. Opimme, milloin eskaloida, milloin jokin näyttää epänormaalilta ja milloin konteksti muuttaa oikean toimintatavan.

Uskomme, että tekoälyagentit tarvitsevat samanlaisen sopeutumiskyvyn ja ympäristön ymmärryksen. Turvallisemmat järjestelmät tulevat niistä, jotka tehdään yhä osaavammiksi ja erikoistuneemmiksi selkeästi määritellyissä operatiivisissa maailmoissa. Tällainen järjestelmä havainnoi omaa ympäristöään ja omia tuloksiaan ja seuraa, missä se epäonnistuu ja päivittää käyttäytymistään.

Tekoälyteollisuus korostaa usein suurempia malleja ja laajempia kykyjä, mutta NeoCognition näyttää keskittyvän erikoistumiseen ja kontekstualiseen oppimiseen. Uskotko, että tulevaisuuden yritysten tekoälyagentit muistuttavat enemmän erittäin erikoistuneita digitaalisia työntekijöitä kuin yleisiä avustajia?

Uskomme vahvasti, että tulevaisuus on erikoistumisen mukainen. Teollisuus on ymmärrettävästi keskittynyt yhä yleisempiin malleihin, koska laaja kyky on vaikuttava. Mutta yritysympäristöissä todellinen haaste ei ole se, voivatko agentit tehdä vähän kaikkea. Se on se, voivatko ne suorittaa tietyn roolin luotettavasti ja arvostelukyvyltään ajan myötä. Meidän vahvuutemme ei ole se, että olemme syntymästä lähtien asiantuntijoita jokaisessa ympäristössä. Se on se, että voimme oppia tietyn maailman rakennetta syvälti tarpeeksi toimia tehokkaasti siinä.

NeoCognitionissa uskomme, että tulevaisuus ei ole yksi superagentti, joka tekee kaiken. Sen sijaan se on runsaasti erikoistuneita agenteja, joista jokainen oppii tietyn maailman syvälti tarpeeksi toimia asiantuntijatasolla, luotettavuudella ja arvostelukyvyltään. Heidän tarkoituksensa ei ole korvata ihmisten asiantuntemus, vaan tehdä sitä runsaammin saataville: asettaa eturintamakyky useampiin käsiin ja nostaa sen, mitä kuka tahansa henkilö tai organisaatio voi tehdä.

Yksi suurimmista huolenaiheista itsestään toimivien agenttien ympärillä on, miten ne käyttäytyvät, kun ympäristö muuttuu odottamattomasti. Kuinka tärkeää on todellinen sopeutuminen ja ympäristön tietoisuus estääksesi epäonnistumisia, hallusinaatioita tai vaarallisia toimia?

Se on absoluuttisen kriittinen. Ilman ympäristön tietoisuutta agentit voivat jatkaa toimintaa luottavaisesti, vaikka heidän ymmärryksensä tilanteesta on vanhentunut tai epätäydellinen. Siinä ilmenee usein operatiiviset epäonnistumiset.

Uskomme, että luotettavuus vaatii agenteilta jatkuvaa oppimista paikallisen ympäristön rakennetta, jossa ne toimivat, ja ymmärryksen päivittämistä ajan myötä. Luotettavuus muuttuu ja kehittyy ajan myötä: se, mikä näytti luotettavalta syyskuussa, ei välttämättä näytä samalta toukokuussa. Mitä syvemmältä agentti ymmärtää järjestelmiä, rajoituksia, työnkulkuja ja suhteita ympärillään, sitä kykenevämpi se tulee tunnistamaan, kun olosuhteet ovat muuttuneet tai kun epävarmuus edellyttää eskalointia.

Kuinka lähellä tekoälyteollisuus on käyttöönotosta tekoälyjärjestelmiä, jotka voivat parantaa itseään jatkuvasti vuorovaikutuksen kautta todellisten operatiivisten ympäristöjen kanssa?

Olemme edelleen varhaisessa vaiheessa rakentamassa perustavanlaatuisia oppimismekanismeja, joita tarvitaan luotettavaan jatkuvaan oppimiseen ja itseparantamiseen, mutta teollisuus on paljon lähempänä tätä siirtymää kuin monet ihmiset toteavat. Elämme pakatussa aikajänteessä. Seuraavan teknologisen läpimurron ainekset ovat valmiit. Se voi tapahtua melko pian.

Se, mikä on tärkeää, ei ole pelkästään itseparantuminen abstraktissa, vaan rakenteellinen erikoistuminen todellisissa ympäristöissä. Se tarkoittaa työnkulkujen, rajoitusten, suhteiden ja onnistuneen käyttäytymisen mallien oppimista keinoilla, jotka ovat stabiileja, hallittavissa ja vastustuskykyisiä katastrofaalista unohtamista. Se on ongelma, johon NeoCognitionissa keskitymme.

Katsottaessa eteenpäin useita vuosia, mitä lopulta erottaa luotettavat yritysten tekoälyagentit aallosta kokeellisia järjestelmiä, jotka tulvivat markkinoille?

Onnistuneet järjestelmät ovat niitä, jotka tuntuvat vähemmän leikkimielisiltä ja enemmän luotettavilta operaattoreilta.

Luonnollisen mallin kyky yksin ei riitä. Yritykset lopulta huomioivat, voivatko agentit toimia johdonmukaisesti todellisissa ympäristöissään, ymmärtävät paikallisia työnkulkuja ja rajoituksia, kunnioittavat rajoja ja lupauksia, sopeutuvat turvallisesti ajan myötä ja toimittavat toistuvia tuloksia.

Tulevaisuuden voittajat tekoälyssä eivät pelkästään ole järjestelmiä, jotka voivat vastata laajimpaan kysymysten kirjoon. Ne ovat järjestelmiä, jotka voivat oppia tietyn operatiivisen maailman syvälti tarpeeksi toimia todellisella taidolla, arvostelukyvyltään ja luotettavuudella siinä.

Kiitos hienosta haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla NeoCognition-sivustolla.