Daniel Ciolek, InvGate’i uurimis- ja arendustegevuse juht – intervjuuseeria

Daniel on kirglik IT-spetsialist, kellel on selles valdkonnas rohkem kui 15-aastane kogemus. Tal on doktorikraad. arvutiteaduses ja pikka karjääri tehnoloogiauuringute alal. Tema huvid on seotud mitme valdkonnaga, nagu tehisintellekt, tarkvaratehnika ja kõrgjõudlusega andmetöötlus.

Daniel on InvGate'i uurimis- ja arendustegevuse juht, kus ta juhib teadus- ja arendustegevuse algatusi. Ta töötab koos toote- ja äriarendusmeeskondadega, et kavandada, rakendada ja jälgida ettevõtte teadus- ja arendustegevuse strateegiat. Kui ta ei uuri, siis ta õpetab.

InvGate annab organisatsioonidele volitused, pakkudes tööriistu sujuvaks teenuse osutamiseks kõigis osakondades alates IT-st kuni rajatisteni.

Millal ja kuidas tekkis teil huvi arvutiteaduse vastu?

Minu huvi arvutiteaduse vastu pärineb varasest lapsepõlvest. Mind on alati paelunud elektroonilised seadmed, leides end sageli uurimas ja püüdmas mõista, kuidas need töötavad. Vanemaks saades viis see uudishimu mind kodeerimise juurde. Mäletan siiani, kui lõbus oli oma esimeste saadete kirjutamine. Sellest hetkest peale ei olnud mu peas kahtlustki, et tahan teha karjääri arvutiteaduse alal.

Te juhite praegu teadus- ja arendustegevuse algatusi ning rakendate uudseid generatiivseid tehisintellekti rakendusi. Kas saate arutada mõnda oma tööd?

Absoluutselt. Meie teadus- ja arendusosakonnas tegeleme keeruliste probleemidega, mida võib olla keeruline tõhusalt esindada ja lahendada. Meie töö ei piirdu generatiivsete AI-rakendustega, kuid hiljutised edusammud selles valdkonnas on loonud hulgaliselt võimalusi, mida soovime ära kasutada.

Üks meie peamisi eesmärke InvGate'is on alati olnud meie tarkvara kasutatavuse optimeerimine. Selleks jälgime selle kasutamist, tuvastame kitsaskohad ja töötame usinalt nende kõrvaldamise nimel. Üks selline kitsaskoht, millega oleme sageli kokku puutunud, on seotud loomuliku keele mõistmise ja kasutamisega. Seda probleemi oli eriti raske lahendada ilma suurte keelemudelite (LLM) kasutamiseta.

Kuid hiljutise tasuvate LLM-ide ilmumisega oleme suutnud neid kasutusjuhtumeid sujuvamaks muuta. Meie võimalused hõlmavad nüüd paljude muude keelepõhiste funktsioonide hulgas kirjutamissoovituste pakkumist, teadmistebaasi artiklite automaatset koostamist ja ulatuslike tekstiosade kokkuvõtete tegemist.

InvGate'is rakendab teie meeskond strateegiat, mida nimetatakse "agnostiliseks AI-ks". Kas saaksite määratleda, mida see tähendab ja miks see oluline on?

Agnostiline tehisintellekt on põhimõtteliselt seotud paindlikkuse ja kohanemisvõimega. Põhimõtteliselt seisneb see selles, et mitte pühenduda ühele AI mudelile või pakkujale. Selle asemel püüame hoida oma valikud avatuna, kasutades ära parimat, mida iga tehisintellekti pakkuja pakub, vältides samas ohtu sattuda ühte süsteemi.

Võite seda mõelda järgmiselt: kas me peaksime oma generatiivsete AI funktsioonide jaoks kasutama OpenAI GPT-d, Google'i Gemini või Meta Llama-2? Kas peaksime valima tasulise pilvekasutuse, hallatud eksemplari või isehostitava juurutuse? Need ei ole triviaalsed otsused ja võivad aja jooksul isegi muutuda, kuna turule tulevad uued mudelid ja uued pakkujad.

Agnostiline tehisintellekt tagab, et meie süsteem on alati valmis kohanema. Meie juurutamisel on kolm põhikomponenti: liides, ruuter ja AI mudelid ise. Liides võtab AI-süsteemi juurutamise üksikasjad ära, muutes meie tarkvara teistel osadel sellega suhtlemise lihtsamaks. Ruuter otsustab, kuhu iga päring saata, lähtudes erinevatest teguritest, nagu päringu tüüp ja saadaolevate AI mudelite võimalused. Lõpuks täidavad mudelid tegelikke AI-ülesandeid, mis võivad nõuda kohandatud andmete eeltöötlust ja tulemuste vormindamist.

Kas saate kirjeldada metoodilisi aspekte, mis juhivad teie otsustusprotsessi konkreetsete ülesannete jaoks sobivaimate tehisintellekti mudelite ja pakkujate valimisel?

Iga uue väljatöötatud funktsiooni jaoks loome alustuseks hindamise võrdlusaluse. See võrdlusalus on loodud selleks, et hinnata erinevate tehisintellekti mudelite tõhusust ülesande lahendamisel. Kuid me ei keskendu ainult jõudlusele, vaid arvestame ka iga mudeli kiirust ja maksumust. See annab meile tervikliku ülevaate iga mudeli väärtusest, võimaldades meil valida taotluste marsruutimiseks kõige kuluefektiivsema valiku.

Kuid meie protsess ei lõpe sellega. Kiiresti arenevas AI valdkonnas lastakse pidevalt välja uusi mudeleid ja olemasolevaid uuendatakse regulaarselt. Seega, kui uus või värskendatud mudel muutub kättesaadavaks, käivitame oma hindamise võrdlusaluse uuesti. See võimaldab meil võrrelda uue või uuendatud mudeli jõudlust meie praeguse valikuga. Kui uus mudel ületab praeguse mudeli, värskendame selle muudatuse kajastamiseks oma ruuteri moodulit.

Millised on väljakutsed erinevate tehisintellekti mudelite ja pakkujate vahel sujuval vahetamisel?

Sujuv lülitumine erinevate AI mudelite ja pakkujate vahel esitab tõepoolest mitmeid ainulaadseid väljakutseid.

Esiteks nõuab iga AI pakkuja konkreetsel viisil vormindatud sisendeid ja AI mudelid võivad samadele päringutele erinevalt reageerida. See tähendab, et peame iga mudeli jaoks eraldi optimeerima, mis võib erinevate valikute tõttu olla üsna keeruline.

Teiseks on AI mudelitel erinevad võimalused. Näiteks võivad mõned mudelid genereerida väljundit JSON-vormingus – see funktsioon on paljudes meie rakendustes kasulik. Teised saavad töödelda suuri tekstihulki, võimaldades meil mõne ülesande puhul kasutada põhjalikumat konteksti. Nende võimaluste haldamine iga mudeli potentsiaali maksimeerimiseks on meie töö oluline osa.

Lõpuks peame tagama, et tehisintellekti loodud vastused on ohutud kasutada. Generatiivsed AI mudelid võivad mõnikord tekitada "hallutsinatsioone" või tekitada vastuseid, mis on valed, kontekstivälised või isegi potentsiaalselt kahjulikud. Selle leevendamiseks rakendame ebasobivate reaktsioonide tuvastamiseks ja filtreerimiseks ranged järeltöötluse puhastusfiltrid.

Kuidas on loodud teie agnostilise AI-süsteemi liides tagamaks, et see võtab kasutajasõbraliku suhtluse jaoks tõhusalt kokku aluseks olevate AI-tehnoloogiate keerukuse?

Meie liidese disain on teadus- ja arendustegevuse ning insenerimeeskondade koostöö. Töötame funktsioonide kaupa, määratledes iga funktsiooni nõuded ja saadaolevad andmed. Seejärel kujundame API, mis integreerub sujuvalt tootega, rakendades seda meie sisemises AI-teenuses. See võimaldab insenerimeeskondadel keskenduda äriloogikale, samas kui meie tehisintellekti teenus tegeleb erinevate tehisintellekti pakkujatega suhtlemise keerukusega.

See protsess ei tugine tipptasemel teadusuuringutele, vaid selle asemel rakendatakse tõestatud tarkvaratehnoloogia tavasid.

Arvestades globaalset tegevust, kuidas InvGate tegeleb piirkondliku kättesaadavuse ja kohalike andmeeeskirjade järgimisega seotud väljakutsetega?

Piirkondliku kättesaadavuse ja kohalike andmete eeskirjade järgimise tagamine on meie InvGate'i tegevuse oluline osa. Valime hoolikalt tehisintellekti pakkujad, kes ei suuda mitte ainult mastaapselt tegutseda, vaid järgivad ka kõrgeimaid turvastandardeid ja järgivad piirkondlikke eeskirju.

Näiteks võtame arvesse ainult teenusepakkujaid, kes järgivad EL-is selliseid määrusi nagu GDPR (General Data Protection Regulation). See tagab, et saame oma teenuseid erinevates piirkondades turvaliselt juurutada, olles kindlad, et tegutseme kohaliku õigusraamistiku raames.

Suuremad pilveteenuse pakkujad, nagu AWS, Azure ja Google Cloud, vastavad neile nõuetele ja pakuvad laia valikut tehisintellekti funktsioone, muutes need meie ülemaailmseks tegevuseks sobivateks partneriteks. Lisaks jälgime pidevalt muudatusi kohalikes andmeeeskirjades, et tagada pidev vastavus, kohandades oma tavasid vastavalt vajadusele.

Kuidas on InvGate'i lähenemine IT-lahenduste arendamisele viimase kümnendi jooksul arenenud, eriti seoses generatiivse AI integreerimisega?

Viimase kümnendi jooksul on InvGate lähenemine IT-lahenduste arendamisele oluliselt arenenud. Oleme laiendanud oma funktsioonide baasi täiustatud võimalustega, nagu automatiseeritud töövood, seadmetuvastus ja konfiguratsioonihaldusandmebaas (CMDB). Need funktsioonid on meie kasutajate jaoks IT-toiminguid oluliselt lihtsustanud.

Hiljuti alustasime GenAI integreerimist oma toodetesse. See on saanud võimalikuks tänu hiljutistele edusammudele LLM-i pakkujates, kes on hakanud pakkuma kuluefektiivseid lahendusi. GenAI integreerimine on võimaldanud meil täiustada oma tooteid tehisintellekti toega, muutes meie lahendused tõhusamaks ja kasutajasõbralikumaks.

Kuigi see on alles algusjärgus, ennustame, et tehisintellektist saab IT-operatsioonides üldlevinud tööriist. Seetõttu kavatseme jätkata oma toodete arendamist tehisintellekti tehnoloogiate täiendava integreerimise teel.

Kas saate selgitada, kuidas AI-keskuse generatiivne tehisintellekt suurendab tavalistele IT-intsidentidele reageerimise kiirust ja kvaliteeti?

Meie tehisintellektikeskuse generatiivne AI parandab märkimisväärselt nii tavalistele IT-intsidentidele reageerimise kiirust kui ka kvaliteeti. See teeb seda mitmeastmelise protsessi kaudu:

Esmane kontakt: kui kasutajal tekib probleem, saab ta avada vestluse meie tehisintellektil töötava virtuaalse agendiga (VA) ja probleemi kirjeldada. VA otsib iseseisvalt ettevõtte teadmistebaasi (KB) ja avalikust IT-tõrkeotsingu juhendite andmebaasist, pakkudes juhiseid vestluse kaudu. Sageli lahendab see probleemi kiiresti ja tõhusalt.

Pileti loomine: kui probleem on keerulisem, saab VA luua pileti, eraldades vestlusest automaatselt asjakohase teabe.

Pileti määramine: süsteem määrab pileti tugiagendile pileti kategooria, prioriteedi ja agendi kogemuste põhjal sarnaste probleemidega.

Agendi interaktsioon: agent saab kasutajaga lisateabe saamiseks ühendust võtta või teavitada, et probleem on lahendatud. Koostoimet täiustatakse tehisintellektiga, pakkudes suhtluse parandamiseks kirjutamissoovitusi.

Eskalatsioon: kui probleem nõuab eskaleerimist, aitavad automaatsed kokkuvõttefunktsioonid juhtidel probleemist kiiresti aru saada.

Surmajärgne analüüs: Pärast pileti sulgemist teostab AI algpõhjuste analüüsi, mis aitab kaasa surmajärgsele analüüsile ja aruannetele. Agent saab AI-d kasutada ka teadmistebaasi artikli koostamiseks, hõlbustades sarnaste probleemide lahendamist tulevikus.

Kuigi oleme enamiku neist funktsioonidest juba kasutusele võtnud, töötame pidevalt edasiste täiustuste ja täiustuste kallal.

Mis on tulevaste funktsioonide, nagu nutikam MS Teamsi virtuaalne agent, puhul vestlustoe kogemused oodatavad?

Üks paljutõotav edasiminek on laiendada vestluskogemust "teisepiloodiks", mis mitte ainult ei suuda vastata küsimustele ja teha lihtsaid toiminguid, vaid teeb kasutajate nimel ka keerukamaid toiminguid. See võib olla kasulik kasutajate iseteenindusvõimaluste parandamiseks ja agentidele täiendavate võimsate tööriistade pakkumiseks. Lõpuks muudavad need võimsad vestlusliidesed AI-st kõikjale leviva kaaslase.

Täname suurepärase intervjuu eest, lugejad, kes soovivad rohkem teada saada, peaksid külastama InvGate.