Juan E. Riojas, Blandin tietohallintojohtaja – haastattelusarja

Juan E. Riojas on kokenut teknologia- ja data-alan johtaja, jonka ura kattaa yritysten IT-toiminnot, datanhallinnan, analytiikan, operatiivisen toiminnan ja digitaalisen muutoksen. Ennen Blandille siirtymistään joulukuussa 2025 hän toimi Twilion ja Rackspace Technologyn tietohallintojohtajana. Tätä ennen hän työskenteli Informatican datajohtajana sekä Gogon datanhallinnan ja analytiikan varatoimitusjohtajana. Hänellä on myös kokemusta johtavista operatiivisista ja hallinnollisista tehtävistä Dellillä, Accenturen palveluksessa, Expeditors Internationalilla, OfficeMaxilla ja AxonGroupilla. Näissä tehtävissä hän on kartuttanut laajaa kokemusta teknologia- ja datanhallintahankkeista suurissa organisaatioissa.

Bland on yrityksille puhetekoälyä kehittävä yhtiö, jonka tekoälyagentit pystyvät hoitamaan saapuvia ja lähteviä puhelinkeskusteluja, asiakastukea, ajanvarausta, alkukartoitusta, puhelujen reititystä ja muita monimutkaisia työnkulkuja. Alustassa painotetaan koko taustalla olevan teknologiapinon hallintaa: Bland kehittää ja käyttää omia puhe-, kieli- ja äänimallejaan ja tukee käyttöönottoa Bland Cloudissa, yksityisissä virtuaalipilvissä sekä täysin asiakkaan omassa ympäristössä toimivissa, muusta verkosta eristetyissä yritysympäristöissä. Yhtiö keskittyy erityisesti säänneltyihin ja tietoturvan kannalta arkaluonteisiin käyttötapauksiin. Tarjolla on esimerkiksi keskustelupolkuja, integraatioita olemassa oleviin puhelinjärjestelmiin, määritettävät tietojen säilytysajat, roolipohjaiset käyttöoikeudet sekä yritysten vaatimustenmukaisuutta tukevia ominaisuuksia.

Olet toiminut tietohallintojohtajana Twiliolla ja Rackspacella, datajohtajana Informaticalla ja viettänyt suuren osan urastasi viestintäinfrastruktuurin ja yritysdatan parissa. Mitä nämä kokemukset ovat opettaneet sinulle tekoälyn käyttöönoton esteistä yrityksissä, ja miten ne ovat vaikuttaneet Blandille parhaillaan rakentamaasi alustaan, jota asiakkaat voivat ylläpitää omassa ympäristössään?

Twiliolla, Rackspacella ja Informaticalla saamani kokemus opetti, ettei yritysten suurin este tekoälyn hyödyntämiselle ole teknologia, vaan luottamus, hallinta ja kyky toimia turvallisesti laajassa mittakaavassa. Yritysten on tiedettävä, missä niiden data sijaitsee, kuka sitä hallitsee ja voidaanko tekoäly sovittaa yhteen tietoturva- ja hallintamallien kanssa, joiden rakentamiseen ne ovat käyttäneet vuosia. Tämä on muovannut Blandin lähestymistapaa: tarjoamme yrityksille niiden omassa ympäristössä ylläpidettävän alustan, joka tuo tekoälyn tehon käyttöön pakottamatta niitä luopumaan infrastruktuurinsa tai datansa hallinnasta.

Bland on ainoa puhetekoälyalusta, jota voi ylläpitää omassa ympäristössä. Tämä tarkoittaa, että omistat tekoälyn orkestroinnin kaikki kerrokset: puheentunnistuksen tekstiksi, suurten kielimallien päättelyn ja tekstin muuntamisen puheeksi. Miksi Bland valitsi tämän toimintatavan, ja mitkä olivat vaikeimmat tekniset haasteet koko puhetekoälyteknologiapinon hallinnassa?

Päätimme ylläpitää kaikkia kerroksia itse ja omistaa ne automaattisesta puheentunnistuksesta (ASR) suuren kielimallin (LLM) päättelyyn ja tekstin muuntamiseen puheeksi (TTS) kolmesta syystä: halusimme keskustelujen viiveen jäävän alle sekuntiin, varmistaa tiukat tietosuojarajat ja saavuttaa korkean toimintavarmuuden.

Kun ketjutat yhteen erillisiä ulkoisia palveluntarjoajia, viiveet kasautuvat. Verkkopyyntöjen edestakaiset viiveet, erillisten jonojen viiveet ja kylmäkäynnistykset tulevat kaikki päällekkäin. Tuloksena on luonnoton tauko, joka katkaisee keskustelun sujuvan kulun.

Sijoittamalla mallimme samaan yhtenäiseen suoritusympäristöön ja poistamalla riippuvuudet kolmansien osapuolten rajapinnoista pääsemme eroon näistä verkkoviiveistä. Näin myös data pysyy täysin omassa hallinnassamme: arkaluonteiset äänivirrat ja litteroinnit eivät koskaan päädy ulkopuolisille huippumallien tarjoajille.

Vaikeimmat tekniset haasteet liittyivät viiveiden orkestrointiin, suoratoiston synkronointiin ja GPU-resurssien ajoittamiseen tilanteissa, joissa samanaikaisia tehtäviä on paljon. Reaaliaikainen kaksisuuntainen puhe edellyttää saumatonta tokenien suoratoistona tapahtuvaa generointia. TTS-moottorin on aloitettava äänen syntetisointi jo ennen kuin LLM on ehtinyt tuottaa virkkeen valmiiksi.

Jotta tämä olisi mahdollista, rakensimme omat päättelymoottorit, vähän viivettä aiheuttavat spekulatiivisen dekoodauksen käsittelyketjut ja akustisten mallien mukautuksia. Yhdessä ne ehkäisevät äänen pätkimistä, hallitsevat puheenvuorojen vaihtumista ja käsittelevät käyttäjän keskeytyksiä sujuvasti ilman, että GPU-muisti ylikuormittuu.

Monet puhetekoälyalustat kokoavat litteroinnin, päättelyn ja puheen tuottamisen eri kolmansien osapuolten palveluista. Mitä etuja ja teknisiä kompromisseja liittyy siihen, että Bland omistaa ja käyttää itse suuremman osan tästä teknologiapinosta?

Suurin etu on päästä päähän ulottuva viiveenhallinta. ASR:n, LLM:n ja TTS:n välillä ei ole lainkaan verkkoviivettä, joten voimme käyttää yhtenäisiä suoratoistokäsittelyketjuja, optimoida eri kerroksia yhdessä ja hallita tarkasti ensimmäisen tavun viivettä. Tällaiseen hallintaan ei yksinkertaisesti päästä, kun jokainen osa tulee eri palveluntarjoajalta.

Toinen etu on yhtenäinen tietoturva- ja vaatimustenmukaisuusraja. Data ei koskaan poistu hallitsemastamme ympäristöstä, joten asiakkaiden äänitallenteet ja litteroinnit pysyvät varmennetun suoja-alueemme sisällä. Näin vältetään kolmansien osapuolten alikäsittelijöihin liittyvät riskit ja HIPAA-, SOC 2- ja PCI DSS -vaatimusten täyttäminen helpottuu huomattavasti. Jokainen, joka on käynyt läpi palveluntarjoajan tietoturvatarkastuksen, tietää, miten paljon tällä on merkitystä.

Kolmas etu on kustannusten ennakoitavuus. Emme maksa ulkoisten perustamallien rajapinnoista tokeni- tai minuuttikohtaisia lisähintoja, joten yksikkötaloutemme pysyy ennakoitavana myös yritystason mittakaavassa. Koska mallit ovat omiamme, voimme myös hienosäätää suoraan akustiikkaa, prosodiaa ja tehtäväkohtaiseen päättelyyn liittyviä painokertoimia.

Tästä kaikesta joutuu kuitenkin maksamaan. Tämä lähestymistapa vaatii paljon infrastruktuuria ja pääomaa grafiikkasuorittimiin. Suurten, erillisten grafiikkasuoritinlaivastojen hallinta edellyttää kehittynyttä ajoitusta, orkestrointia ja alueiden välistä vikasietoisuutta, ja laitteistokustannukset ovat korkeat.

Kannamme myös itse vastuun mallien ylläpidosta ja erikoistamisesta. Emme voi ulkoistaa huipputason tutkimusta ulkopuolisille toimittajille. Sen sijaan teemme itse jatkuvan insinöörityön, jota tarvitaan omien mallien kouluttamiseen, arviointiin ja ylläpitoon eri aksenttien, taustameluolosuhteiden ja kielten osalta.

Meistä tämä kompromissi on sen arvoinen.

Bland sai FedRAMP 20x Class A -sertifioinnin elokuussa ja kertoo olevansa ensimmäinen ääniälyalusta, jolla se on. Useimmat lukijat eivät tunne 20x-ohjelmaa eivätkä vanhaa FedRAMP-mallia. Mikä Class A on, ja mitä teidän piti käytännössä osoittaa saadaksenne sertifioinnin?

FedRAMP 20x on nykyaikaistettu, pilvinatiivi viitekehys, joka otettiin käyttöön FedRAMP Consolidated Rules for 2026 -säännöstön (CR26) yhteydessä. Vanhassa prosessissa kaikki luokiteltiin FIPS 199 -vaikutustasoihin (Low, Moderate ja High), ja se tunnettiin erityisen raskaasta paperityöstään. 20x korvaa nämä kirjainpohjaisilla sertifiointiluokilla: A, B, C ja D.

Class A on aloitustason luokka. Se on suunniteltu erityisesti kaupallisille pilvipalveluntarjoajille (CSP), joilla on jo kypsät tietoturvaohjelmat ja jotka haluavat päästä liittovaltion markkinoille. Sitä kannattaa ajatella sisääntuloväylänä, ei pysyvänä määränpäänä. Saat FedRAMP-ohjelman hallintotoimiston (PMO) suoraan myöntämän tunnustetun ohjelmasertifioinnin, minkä jälkeen sinulla on kaksi vuotta aikaa siirtyä luokkaan B, C tai D.

Tähän päästäksemme meidän oli osoitettava neljä asiaa. Ensinnäkin ajantasainen ja varmennettu SOC 2 Type II -arviointi, joka kattoi tietoturvan, luottamuksellisuuden ja käytettävyyden keskeiset periaatteet. Toiseksi selkeästi määritelty ja loogisesti eristetty liittovaltion pilvipalvelun rajaus, joka kattaa ääni-, SMS- ja chat-palvelumme.

Kolmanneksi pakollisten FedRAMP 20x -tietoturvan keskeisten mittareiden (KSI) perustason toteutus sekä valmius jatkuvaan valvontaan. Tämä kattaa haavoittuvuuksien skannauksen, poikkeamien käsittelymenettelyt, pääsynhallinnan valvonnan sekä koneellisesti luettavan, jatkuvan tietoturvaraportoinnin.

Neljäs kohta osoitti, miten paljon hyötyä oman teknologiapinon hallinnasta oli. Meidän oli varmistettava, että kaikki litterointi, päättely ja puhesynteesi tapahtuvat tiukasti Blandin valtuutetun konttirajauksen sisällä eikä liittovaltion tietoja lähetetä tarkastamattomille ulkopuolisille huipputason tekoälypalveluntarjoajille. Tämän vaatimuksen täyttäminen on erittäin vaikeaa alustalle, joka on koottu ulkopuolisten toimittajien ratkaisuista.

Bland tukee käyttöönottoja yksityisistä pilven VPC-ympäristöistä erilliseen paikalliseen grafiikkasuoritininfrastruktuuriin. Miten arkkitehtuuri muuttuu siirryttäessä käyttöönottomallista toiseen, erityisesti viiveen, skaalautuvuuden ja infrastruktuurivaatimusten osalta?

Lyhyesti sanottuna: mitä lähemmäs paikallista käyttöönottoa siirrytään, sitä enemmän saadaan etua viiveen ja hallinnan suhteen, mutta sitä enemmän menetetään joustavuutta.

Aloitetaan viiveestä. Paikalliset käyttöönotot ja erilliset VPC-ympäristöt minimoivat molemmat ulkoisen verkkoliikenteen, sillä ne sijaitsevat aivan yrityksen sisäisten puhelinverkon runkoyhteyksien ja SIP-yhdyskäytävien vieressä. Esimerkiksi AWS:n tai GCP:n yksityisessä pilven VPC-ympäristössä viive riippuu alueen sisäisestä verkkoliikenteestä ja pilviyhteyksistä. Erillinen paikallinen laitteisto ilman virtualisointikerrosta vie asian vielä pidemmälle. Se poistaa kokonaan hypervisorin virtualisointikerrokset ja julkisen internetin kautta reitittämisen, minkä ansiosta äänen jitteri jää mahdollisimman pieneksi.

Kompromissi näkyy skaalauksessa. Pilven VPC-ympäristössä skaalaamme vaakasuunnassa joustavalla orkestroinnilla, esimerkiksi pilven grafiikkasuoritininstanssien tukemilla automaattisesti skaalautuvilla Kubernetes-klustereilla, jolloin kapasiteetti mukautuu dynaamisesti puhelumäärien kasvaessa äkillisesti. Paikallinen käyttöönotto ei toimi näin. Käytössä on kiinteä fyysisen grafiikkasuoritinkapasiteetin yläraja, mikä edellyttää tiukkaa yhteyksien hyväksynnän hallintaa, jonotuskäytäntöjä ja laitteiston kapasiteetin mitoittamista etukäteen huippuaikojen samanaikaisen puhelumäärän mukaan. Vilkkaimpaan päivään on varauduttava jo ennakolta.

Myös infrastruktuurivaatimukset ovat varsin erilaiset. Yksityisissä VPC-ympäristöissä voidaan hyödyntää hallittuja pilvitallennuspalveluja, natiivia IAM-palvelua ja pilvipalveluntarjoajan hallinnoimia salaisuuksia. Paikalliset asennukset edellyttävät erillisiä telineisiin asennettavia grafiikkasuoritinklusterereita (esimerkiksi NVIDIAn yrityskäyttöön tarkoitettuja kiihdyttimiä), suuren läpimenon paikallisia verkkoyhteyksiä, laitteistoturvamoduuleja (HSM) tai paikallisia avainsäilöjä sekä paikallisia telemetriakerääjiä. Lisäksi kaiken on toimittava yrityskäyttöön tarkoitetuissa konttien suoritusympäristöissä, jotka toimivat täysin verkkoyhteyksistä eristetyissä tai rajoitetun ulospäin suuntautuvan verkkoliikenteen ympäristöissä.

Bland antaa yrityksille mahdollisuuden hallita ohjelmistojulkaisuja, ylläpitää erillisiä testausympäristöjä ja ottaa uudet versiot koekäyttöön osassa oikeista puheluista ennen niiden laajempaa käyttöönottoa. Miksi perinteiset ohjelmistojulkaisukäytännöt ovat erityisen tärkeitä nyt, kun tekoälyagentteja otetaan käyttöön asiakkaille näkyvissä tuotantoympäristöissä?

Syy on siinä, että tekoälyagentit eivät toimi kuten perinteiset yritysohjelmistot.

Deterministinen ohjelmisto toimii joka kerta samalla tavalla. Generatiiviset tekoälyagentit ovat todennäköisyyspohjaisia eivätkä deterministisiä. Pienikin kehotteen muutos, mallin painokertoimien päivitys tai muutos toimintapolussa voi tahattomasti heikentää keskustelun toimivuutta, aiheuttaa hallusinaation tai johtaa vaatimustenmukaisuussääntöjen rikkomiseen. Usein itse muutoksesta ei voi päätellä, että näin saattaa käydä.

Siksi vanha julkaisukurinalaisuus on nyt entistä tärkeämpää, ei vähemmän tärkeää. Eristetyissä testiympäristöissä tehtävä tiukka regressiotestaus aiempien puheluaineistojen avulla paljastaa monia ongelmia ennen kuin mitään otetaan käyttöön. Kanariakäyttöönotot vievät tämän vielä pidemmälle. Uusi versio otetaan käyttöön hallitulla osuudella tuotannossa olevista puheluista, ja reaaliaikaisesti seurataan mittareita, kuten asiakkaiden tunnetilan heikkenemistä, tavoitteiden saavuttamisastetta, viivepiikkejä sekä eskalointi- ja siirtotilanteita. Kaikki tämä tapahtuu ennen kuin laajempi asiakaskunta altistuu uudelle versiolle.

Panokset tekevät tästä ehdottoman vaatimuksen. Asiakaspalvelussa, korvausvaatimusten käsittelyssä tai tilinhallinnassa virhe voi johtaa sääntelyyn liittyviin seuraamuksiin tai vakavaan mainehaittaan. Huolellisesti hallitut kanariakäyttöönotot ja välittömät palautukset aiempaan versioon estävät huonon päivityksen muuttumisen huonoksi uutisotsikoksi.

Pankit, terveydenhuollon organisaatiot, vakuutusyhtiöt ja viranomaiset kohtaavat usein paljon korkeampia generatiivisen tekoälyn käyttöönoton esteitä kuin muut yritykset. Mikä keskusteluissanne näiden organisaatioiden kanssa tosiasiassa estää ääni-tekoälyn laajemman käyttöönoton tällä hetkellä: tietoturva, tietojen suvereniteetti, luotettavuus, integraatioiden monimutkaisuus, hankintaprosessit vai jokin muu?

Selvästi suurimpia esteitä ovat tietoturva ja tietojen suvereniteetti, ja heti niiden jälkeen tulevat integraatioiden monimutkaisuus ja vanhentunut arkkitehtuuri. Tämä on käynyt johdonmukaisesti ilmi keskusteluissamme pankki-, terveydenhuolto-, vakuutus- ja viranomaisalan toimijoiden kanssa.

Tietoturvan osalta tiukasti säännellyillä organisaatioilla ei yksinkertaisesti ole varaa arkkitehtuuriin, jossa arkaluonteiset äänivirrat, suojatut terveystiedot (PHI) tai ei-julkiset henkilötiedot kulkevat ulkoisten API-rajapintojen kautta tai jäävät kolmansien osapuolten mallipalveluntarjoajien säilytettäviksi koulutusta varten. Näille ostajille auditointimahdollisuus, takuut tietojen säilyttämättömyydestä ja tiukat vaatimustenmukaisuuden rajat, kuten HIPAA, FedRAMP ja PCI DSS, eivät ole vain lisäetuja. Ne ovat ehdottomia perusvaatimuksia. Jos niitä ei pystytä täyttämään, keskustelu yleensä päättyy siihen.

Seuraava este on integraatio. Monet näistä suuryrityksistä käyttävät yhä vanhoja paikallisia PBX-puhelinjärjestelmiä, monimutkaisia IVR-järjestelmiä ja hajanaisia keskeisiä tietojärjestelmiä, kuten terveydenhuollossa Epic- tai Cerner-järjestelmiä ja pankkialalla keskustietokonepohjaisia ydinjärjestelmiä. Keskustelevien palvelupolkujen yhdistäminen näihin ympäristöihin reaaliaikaisilla, vähän viivettä aiheuttavilla kaksisuuntaisilla luku- ja kirjoitusoikeuksilla varustetuilla API-rajapinnoilla lisää integraatiotyötä huomattavasti.

Lisäksi haasteina ovat luotettavuus ja hallusinaatioiden riski. Lakiasiain-, riskienhallinta- ja hankintatiimit ovat ymmärrettävästi huolissaan siitä, että itsenäisesti toimiva ääniagentti antaa virheellisiä taloudellisia, lääketieteellisiä tai sääntelyyn liittyviä neuvoja. Ennen kuin ne hyväksyvät ratkaisun laajamittaiseen tuotantokäyttöön, ne haluavat tarkasti määritellyt suojakaiteet, deterministiset vararatkaisut keskustelutilanteisiin sekä selkeät toimintatavat tilanteisiin, joissa asia siirretään ihmiselle.

Kiitos erinomaisesta haastattelusta. Lukijat, jotka haluavat tietää lisää, voivat vierailla sivustolla Bland.