Daniel Ciolek, InvGaten tutkimus- ja kehitysjohtaja – Haastattelusarja

Daniel on intohimoinen IT-ammattilainen, jolla on yli 15 vuoden kokemus alalta. Hänellä on tietojenkäsittelytieteen tohtorin tutkinto ja pitkä ura teknologian tutkimuksessa. Hänen kiinnostuksensa kohdistuu useisiin eri aloihin, kuten tekoälyyn, ohjelmistosuunnitteluun ja suorituskykyiseen laskentaan.

Daniel on InvGaten tutkimus- ja kehitysjohtaja, jossa hän johtaa tutkimus- ja kehitystoimintaa. Hän työskentelee tuote- ja liiketoimintakehitystiimien kanssa suunnitellen, toteuttaen ja seuraamen tutkimus- ja kehitysstrategiaa. Kun hän ei ole tutkimassa, hän opettaa.

InvGate mahdollistaa organisaatioille työkalut, joiden avulla voidaan tarjota saumattoman palvelun eri osastoille, IT:stä huoltoon.

Milloin ja miten sinusta tuli kiinnostunut tietojenkäsittelytieteestä?

Minun kiinnostukseni tietojenkäsittelytieteeseen juontaa juurensa lapseudestani. Olin aina kiinnostunut elektroniikasta ja yritin ymmärtää, miten ne toimivat. Kasvaessani tämä uteliaisuus johti minun kiinnostukseen ohjelmointiin. Muistan edelleen, miten hauskaa minulla oli kirjoittaa ensimmäiset ohjelmani. Siitä lähtien tiesin, että haluan uran tietojenkäsittelytieteessä.

Olet tällä hetkellä johtamassa tutkimus- ja kehitystoimintaa ja toteuttamassa uusia generatiivisia tekoälysovelluksia. Voitko kertoa jotain työstäsi?

Tietysti. Tutkimus- ja kehitysosastollamme käsittelemme monimutkaisia ongelmia, jotka voivat olla haasteellisia edustaa ja ratkaista tehokkaasti. Työmme ei rajoitu generatiivisiin tekoälysovelluksiin, mutta tämän alan viimeaikaiset edistysaskeleet ovat luoneet runsaasti mahdollisuuksia, joita haluamme hyödyntää.

Yksi tärkeimmistä tavoitteistamme InvGatessa on optimoida ohjelmistomme käytettävyys. Tämä tapahtuu seuraamalla, miten ohjelmistoa käytetään, tunnistamalla pullonkaulat ja työskentelemällä niiden poistamiseksi. Yksi tällainen pullonkaula, joka on usein esiintynyt, liittyy luonnollisen kielen ymmärtämiseen ja käyttämiseen. Tämä oli erityisen haasteellinen ongelma ratkaista ilman suurten kielen mallien (LLM) käyttämistä.

Kuitenkin suurten kielen mallien viimeaikaisen edullisen saatavuuden myötä olemme pystyneet suorittamaan nämä käyttötapaukset. Nykyiset kykymme sisältävät kirjoitussuositukset, automaattisen tietopohja-artikkeleiden luomisen ja laajojen tekstien tiivistämisen, muun muassa.

InvGatessa käytetään strategiaa, jota kutsutaan ”uskolliseksi tekoälyksi”. Voitko määritellä, mitä tämä tarkoittaa ja miksi se on tärkeää?

Uskollinen tekoäly on perustuu joustavuuteen ja sopeutumiskykyyn. Se on siis sitä, ettei sitouduta yhteen tekoälymalliin tai -tarjoajaan. Sen sijaan pyrimme pitämään vaihtoehdot auki, hyödyntäen parasta, mitä kunkin tekoälytarjoajan tarjoaa, välttäen samalla jumiutumista yhteen järjestelmään.

Voit ajatella tätä näin: Pitäisikö meidän käyttää OpenAI:n GPT:tä, Google Geminiä tai Meta Llama-2:ta generatiivisiin tekoälyominaisuuksiimme? Pitäisikö meidän valita maksullisen pilvipalvelun, hallitun instanssin vai itseisännitetyn instanssin? Nämä eivät ole vähäpätöisiä päätöksiä, ja ne saattavat jopa muuttua ajan myötä, kun uusia malleja julkaistaan ja uusia tarjoajia tulee markkinoille.

Uskollisen tekoälyn lähestymistapa varmistaa, että järjestelmämme on aina valmis sopeutumaan. Toteutuksemme koostuu kolmesta pääosasta: rajapinnasta, reitittimestä ja itse tekoälymallista. Rajapinta abstrahoi tekoälyjärjestelmän toteutusyksityiskohdat, tehdessä siitä helpomman muiden ohjelmistomme osien kanssa vuorovaikuttaa. Reititin päättää, mihin kunkin pyynnön ohjataan, perustuen tekijöihin kuten pyynnön tyyppiin ja käytettävissä olevien tekoälymallien ominaisuuksiin. Lopulta mallit suorittavat itse tekoälytehtävät, jotka saattavat vaatia mukautettuja data-esikäsittely- ja tulosten muotoiluprosesseja.

Voitko kuvailla menetelmällisiä näkökohtia, jotka ohjaavat päätöksentekoa valitessa parhaiten soveltuvia tekoälymalleja ja -tarjoajia tiettyihin tehtäviin?

Kunkin uuden ominaisuuden kehittämisessä aloitamme luomalla arviointikriteerit. Tämä kriteeri on suunniteltu arvioimaan eri tekoälymallien tehokkuutta ratkaisemaan tehtävää. Emme kuitenkaan keskity vain suorituskykyyn, vaan myös kunkin mallin nopeuteen ja kustannuksiin. Tämä antaa meille kattavan näkymän kunkin mallin arvosta, mahdollistaen valita kustannustehokkain vaihtoehto pyyntöjen reitittämiseen.

Kuitenkaan prosessimme ei pääty siihen. Tekoälyn nopeasti kehittyvässä alalla uusia malleja julkaistaan jatkuvasti ja olemassa olevia malleja päivitetään säännöllisesti. Jokaisen uuden tai päivitetyn mallin julkaisun myötä suoritamme arviointikriteerimme uudelleen. Tämä mahdollistaa uuden tai päivitetyn mallin suorituskyvyn vertaamisen nykyisen valintamme suorituskykyyn. Jos uusi malli suoriutuu paremmin kuin nykyinen, päivitämme reitittimomoduulimme heijastamaan tämän muutoksen.

Mitkä ovat haasteita siirtymisessä eri tekoälymallien ja -tarjoajien välillä?

Siirtymisessä eri tekoälymallien ja -tarjoajien välillä on joukko yksilöllisiä haasteita.

Ensinnäkin, kunkin tekoälytarjoajan vaatimukset syötteiden muodolle ovat erilaiset, ja tekoälymallit voivat reagoida eri tavoin samoihin pyynnöksiin. Tämä tarkoittaa, että meidän on optimoida kunkin mallin osalta erikseen, mikä voi olla melko monimutkaista ottaen huomioon vaihtoehtojen määrän.

Toiseksi, tekoälymallit ovat erilaisia. Esimerkiksi jotkut mallit voivat tuottaa JSON-muotoista tulostetta, mikä on hyödyllistä monissa toteutuksissamme. Toiset voivat prosessoida suuria määriä tekstiä, mikä mahdollistaa laajemman kontekstin käytön joissakin tehtävissä. Näiden kykyjen hallitseminen kunkin mallin potentiaalin maksimoimiseksi on tärkeä osa työtämme.

Lopulta, meidän on varmistettava, että tekoälyllä generoitu vastaus on turvallinen käyttää. Generatiiviset tekoälymallit voivat toisinaan tuottaa ”hallusinaatioita” tai generoida vastauksia, jotka ovat virheellisiä, asiayhteydestä riippumattomia tai jopa mahdollisesti haitallisia. Tämän estämiseksi toteutamme tiukat jälkikäsittelysaniteettisuodattimet havaitsemaan ja suodattamaan sopimattomat vastaukset.

Miten rajapinta on suunniteltu agnostisessa tekoälyjärjestelmässä varmistaaksesi, että se abstrahoi tehokkaasti tekoälytekniikoiden monimutkaisuudet käyttäjäystävällisiksi vuorovaikutuksiksi?

Rajapinnan suunnittelu on yhteistyöhön perustuva työ tutkimus- ja kehitys- ja insinööritiimien välillä. Työskentelemme ominaisuuskohtaisesti, määrittelemällä kunkin ominaisuuden vaatimukset ja käytettävissä olevat tiedot. Sitten suunnittelemme rajapinnan, joka integroituu saumattomasti tuotteeseen, ja toteutamme sen sisäisessä AI-palvelussamme. Tämä mahdollistaa insinööritiimien keskittymisen liiketoimintalogiikkaan, kun taas AI-palvelumme huolehtii tekoälytarjoajien kanssa työskentelyyn liittyvistä monimutkaisuuksista.

Tämä prosessi ei perustu viimeisimpiin tutkimuksiin, vaan sovelletaan jo olemassa olevia ohjelmistosuunnittelun käytäntöjä.

Kansainvälisten toimintojen osalta, miten InvGate käsittelee haasteen alueellisen saatavuuden ja paikallisten tietosuojasääntöjen noudattamisen osalta?

Alueellisen saatavuuden ja paikallisten tietosuojasääntöjen noudattaminen on tärkeä osa InvGaten toimintaa. Valitsemme tekoälytarjoajia, jotka voivat toimia mittakaavassa ja noudattaa korkeita turvallisuusstandardeja sekä paikallisia sääntöjä.

Esimerkiksi valitsemme tarjoajia, jotka noudattavat EU:n yleistä tietosuoja-asetusta (GDPR). Tämä varmistaa, että voimme turvallisesti käyttää palvelujamme eri alueilla, varmistaen, että toimimme paikallisten lakirunkojen puitteissa.

Suuret pilvipalveluntarjoajat, kuten AWS, Azure ja Google Cloud, täyttävät nämä vaatimukset ja tarjoavat laajan valikoiman tekoälyominaisuuksia, mikä tekee heistä sopivia kumppaneita globaaleille toimintoihimme. Lisäksi jatkuvasti seuraamme paikallisten tietosuojasääntöjen muutoksia varmistaaksemme jatkuvan noudattamisen ja sopeutamme käytäntöjämme tarpeen mukaan.

Miten InvGaten lähestymistapa IT-ratkaisujen kehittämiseen on kehittynyt viimeisen vuosikymmenen aikana, erityisesti generatiivisen tekoälyn integroimisen myötä?

Viimeisen vuosikymmenen aikana InvGaten lähestymistapa IT-ratkaisujen kehittämiseen on kehittynyt merkittävästi. Olemme laajentaneet ominaisuuksiamme edistyneillä kyvyillä, kuten automaattisilla työvirroilla, laitteiston löytämisellä ja konfiguraatiotietokannalla (CMDB). Nämä ominaisuudet ovat yksinkertaisesti IT-toimintoja käyttäjillemme.

Viime aikoina olemme aloittaneet generatiivisen tekoälyn integroimisen tuotteisiimme. Tämä on mahdollista suurten kielen mallien tarjoajien tarjoamien kustannustehokkaiden ratkaisujen ansiosta. Generatiivisen tekoälyn integroiminen on mahdollistanut tuotteidemme parantamisen tekoälypohjaisilla tukitoimin, tehdessä ratkaisuistamme tehokkaampia ja käyttäjäystävällisempiä.

Vaikka se on vielä varhainen vaihe, ennustamme, että tekoäly tulee olemaan yleinen työkalu IT-toiminnassa. Tämän vuoksi suunnittelemme jatkuvasti tuotteidemme kehittämistä integroimalla enemmän tekoälytekniikoita.

Voitko selittää, miten generatiivinen tekoäly AI Hubissa parantaa nopeutta ja laatua yleisten IT-ilmiöiden vastauksissa?

AI Hubissa oleva generatiivinen tekoäly parantaa merkittävästi sekä nopeutta että laatua yleisten IT-ilmiöiden vastauksissa monivaiheisen prosessin kautta:

Alkutoimi: Kun käyttäjä kohtaa ongelman, hän voi avata chatin AI-pohjaisen virtuaaliavustajan (VA) kanssa ja kuvailla ongelman. VA etsii itsenäisesti tietopohjasta ja julkisesta IT-vianmääritysoppaasta ohjeita ja tarjoaa ne keskustelumaisesti. Tämä usein ratkaisee ongelman nopeasti ja tehokkaasti.

Lipun luominen: Jos ongelma on monimutkaisempi, VA voi luoda lipun, josta poimii automaattisesti relevanttia tietoa keskustelusta.

Lipun määritys: Järjestelmä määrää lipun tukihenkilölle lipun luokan, prioriteetin ja henkilön kokemuksen vastaavista ongelmista.

Tukihenkilön vuorovaikutus: Tukihenkilö voi olla yhteydessä käyttäjään saadakseen lisätietoja tai ilmoittaakseen, että ongelma on ratkaistu. Vuorovaikutus on tehostettu tekoälyllä, joka tarjoaa kirjoitussuositukset viestinnän parantamiseksi.

Escalation: Jos ongelma edellyttää eskaloimista, automaattinen tiivistäminen auttaa johtajia ymmärtämään nopeasti ongelman.

Jälkianalyysi: Lipun sulkemisen jälkeen tekoäly suorittaa syy-seuraus -analyysin, joka auttaa jälkianalyysissä ja raportoinnissa. Tukihenkilö voi myös käyttää tekoälyä luomaan tietopohja-artikkeleita, helpottaen samanlaisia ongelmia tulevaisuudessa.

Vaikka olemme jo toteuttaneet useimmat näistä ominaisuuksista, jatkamme edelleen parantamista.

Tulevien ominaisuuksien, kuten älykkään MS Teams Virtual Agentin, odotetaan parantavan keskustelutukea. Mitkä ovat odotettavissa olevat parannukset keskustelukokemuksissa?

Yksi lupaava kehityssuunta on laajentaa keskustelukokemusta ”copilootiksi”, joka ei ainoastaan vastaa kysymyksiin ja tee yksinkertaisia toimia, vaan myös tee monimutkaisempia toimia käyttäjien puolesta. Tämä voisi olla hyödyllistä parantamaan käyttäjien itsepalvelukykyä sekä tarjoamaan lisää tehokkaita työkaluja tukihenkilöstölle. Lopulta nämä voimakkaat keskustelurajapinnat tekevät tekoälystä jokapäiväisen kumppanin.

Kiitos haastattelusta. Lukijat, jotka haluavat oppia lisää, voivat vierailla InvGaten sivustolla.