Alexey Aylarov, Voximplantin perustaja ja toimitusjohtaja – Haastattelusarja

Alexey Aylarov perusti Voximplantin yli vuosikymmenen kuluttua viestintätyökalujen kehittämisestä alusta alkaen. Hänen varhaisimmat työnsä käsittivät IP PBX:n kehittämisen ja oman televiestintäohjelmistoyrityksen pyörittämisen jo ennen pilvipuhelinten yleistymistä. Zingaya seurasi, tuoden klikkaa-puhelu-toiminnon selaimen sisälle. Voximplant seurasi, kasvaen palveluna, jota kehittäjät luottavat reaaliaikaisen äänen ja videon parissa. Alexey kirjoittaa ääni-aihen käytännön puolesta, erityisesti siinä, missä suuret kielimallit kohtaavat maailmanlaajuisen puhelujärjestelmän sekavat realiteetit.

Mistä sinä aloit siirtymisen Voximplantin perustamiseen, kun otat huomioon urasi alun VoIP-insinöörinä 2000-luvun puolivälissä, jolloin tekoäly ei ollut vielä osa reaaliaikaisia viestintäratkaisuja?

Olen ollut mukana VoIP-järjestelmissä vuodesta 2005. Silloin luotettavan viestinnän rakentaminen oli hidasta ja monimutkaista. Huomasin, että monet kehittäjät jakavat minun frustraatiotani – tiimit yrittivät kytkemällä televiestintäkomponentteja, sen sijaan että keskittyisivät itse tuotteen kokemukseen, jonka he halusivat toimittaa. Tämä työnsi minua kohti ohjelmoitavien viestintäratkaisujen ideaa kehittäjille. Halusimme luoda tuotteen, joka mahdollistaisi kaikille rakentaa tuotteita ilman, että heidän tarvitsisi olla televiestintäasiantuntijoita.

Ennen Voximplantia perustin SIP-pohjaiset puhelupalvelut Flashphone ja Zingaya, jotka tarjosivat varhaisia klikkaa-puhelu-tuotteita. Kysyntä osoitti jälleen, että tiimit halusivat ohjelmoitavissa olevia viestintäratkaisuja, mutta välineistöä ei ollut vielä tarjolla. Kaikki tämä johti Voximplantin perustamiseen vuonna 2013.

Tänään näemme samanlaisen aukon, mutta laajemmassa mittakaavassa. Ääni-aihe tulee tuotantoprosesseihin, LLM:t jatkavat kehittymistään joka kuukausi, mutta maailmanlaajuinen puhelujärjestelmä on edelleen hajanainen. Yksikään toimija ei voi ratkaista kaikkea loppuun asti. Siksi Voximplant toimii orkestraatiokerroksena, tarjoten kehittäjille nopean ja kustannustehokkaan tavan kokeilla uusimpia ja kehittyneimpiä työkaluja ja ottaa ääniagentit käyttöön oikeilla puheluilla, ilman, että heidän tarvitsee huolehtia televiestintäinfrastruktuurista tai virtausmonimutkaisuudesta.

Miksi Voximplant määrittelee itsensä orkestraatiokerroksena eikä yksinäisenä äly- tai televiestintätoimijana? Miksi uskoit, että orkestraatio on oikea abstraktiotaso tulevaisuuden ääni-aihelle?

Meille oli alusta alkaen tärkeää olla globaaleja, eikä voitu tarjota globaalia televiestintäalustaa ilman, että tehtiin jonkinlaista televiestintäorkestraatiota. Tekniset vaatimukset ja infrastruktuuri vaihtelevat maakohtaisesti, ja me tarjoamme puhelinnumeroita yli 190 maassa, mikä tarkoittaa, että me teemme paljon teknistä välittämistä.

Lisäksi televiestintästandardit kuten SIP ovat kehittyneet useaan eri muotoon eri toimijoilla. Eri televiestintätoimijoiden ja asiakasviestintäinfrastruktuurien yhdistäminen vaatii joustavia järjestelmiä, jotka voivat sopeutua nopeasti. Uudet puhelinverkkoteknologiat, kuten WhatsApp, jatkavat tarpeiden luomista – ja tämä ennen kuin lisätään viestintäohjauslogiikka, joka todella suorittaa asiakkaiden yksilöllisen sovelluslogiikan.

Älypuolen osalta markkinat ovat hyvin intensiivisiä ja kehittyvät nopeasti. “Paras” toimija tänään on todennäköisesti toinen tai kolmas tänään. Meidän lähestymistapa on tukea mahdollisimman monia johtavia toimijoita. Haluamme, että asiakkaamme aina voivat valita valikoiman valmiita älyratkaisuja – tai jopa sekoittaa ja yhdistää. Meidän orkestraatioplatform tarjoaa myös vaihtoehtoja vaihtaa toimittajia helpommin – samalla kun paljastamme kunkin toimittajan kyvyt, jotta kehittäjät eivät jää kiinni vähäimmän yhteinen nimittäjän ominaisuusjoukkoon.

Mikä tekee ääni-aihejärjestelmien todellisen maailman niin haasteelliseksi verrattuna puhtaasti digitaalisiin älyvuorovaikutuksiin?

Puhelinverkko on edelleen hyvin hajanainen ja epävakaa alueittain, mikä tekee siitä entistä enemmän arvaamattoman. Joissakin maissa tiettyjä protokollia voi olla rajoitettu tai estetty, operaattorit kokevat säännöllisesti katkoja normaalin toiminnan aikana, ja puhelureititysmallit voivat muuttua päivän aikana. On myös alueita, joilla pilvipuhelut voivat olla laillisesti monimutkaisia.

Olemme myös nähneet tapauksia, joissa itse infrastruktuuri muodostuu pullonkaulaksi. Esimerkiksi australialainen terveydenhuollon startup, joka rakentaa älypuhelinta vanhemmille kantoninkielen puhujille, kamppailee korkean viiveen kanssa Yhdysvaltojen perustuvien älypuhetoimittajien (kuten OpenAI tai ElevenLabs) kanssa, ja rajoitettu saatavuus korkealaatuiselle kantoninkielen TTS:lle tekee keskusteluista hitaita ja epäluonnollisia.

Miten ääniohjattujen järjestelmien fragmentaatio on välttämätöntä, ja miksi vaihtaminen äly- tai puhepalveluntarjoajaksi pitäisi olla nopea koodimuutos eikä suuri insinööritö?

Älypuheen alkuajoista lähtien ei ollut olemassa todellista puhe-puhe-vaihtoehtoa, joten piti koota puhe-teksti, LLM ja teksti-puhe. Nykyään useat LLM-toimittajat integroivat puheen suoraan (usein jonkinlaisella barge-in-tuella), poistaen tarpeen rakentaa täysi putki. Nämä järjestelmät ovat nopeampia ja erittäin interaktiivisia, mutta niissä on edelleen rajoituksia, kuten toiminnallisen puhelun osalta, ja niissä on vähemmän vaihtoehtoja puheen ja äänten parantamiseksi. Odotamme, että puhepohjaiset LLM:t ovat verrattavissa tekstimalleihin pian. Jopa silloin asiakkaat saattavat haluta käyttää eri puhepalveluja omiin tarpeisiinsa. Jonkin verran putkiputken erottelua lisää myös valintoja toimintavarmuuden osalta.

Kuinka ääniohjatut agentit alkavat muuttaa asiakastuen, myynti- ja muiden B2C-toimintojen taloutta verrattuna perinteisiin call-keskusmalleihin?

On ehkä liian varhainen puhua merkittävistä muutoksista asiakastuen taloudessa, mutta se on varmasti tulossa. Tänään on alueita, joissa asiakastukihenkilöstön kustannukset ovat vähäisemmät kuin LLM-palvelut, mutta tämä malli tulee haasteiden kanssa, kuten skaalautuvuuden, polttoutumisen, hallinnon ja toiminnan osalta. Oletan, että taloudelliset seikat muuttuvat merkittävästi, kun LLM-optimoointi jatkuu parantumassa, vaikka se vie vielä aikaa.

Mitä signaaleja sinä näet, jotka osoittavat, että ääni-aihe siirtyy kokeilusta tehtäväkriittiseen infrastruktuuriin yrityksissä?

Vahvin signaali tässä on älypuheinfrastruktuurin sijoittaminen, joka kasvaa nopeasti. On tavoilla seurata älypuheluja tai -minuutteja maailmanlaajuisesti, joskaan ei täsmällisesti, arvioiden kautta. Vaikka voin seurata vain suoraan tämän Voximplantissa, näen selvän kasvun.

Kuinka kehittäjien odotukset joustavuudesta ja ohjauksesta ovat muuttuneet älymallien ja ääniteknologioiden nopean kehityksen myötä?

Se on mielenkiintoinen kysymys. Kun puhutaan muutoksen nopeudesta, äly on vertaansa vailla mitään, mitä olemme aiemmin nähneet. Ohjaus ja joustavuus eivät ole yhtä suoraviivaisia, riippuen siitä, mitä tarkoitamme näillä termeillä. Kun puhutaan ohjauksesta, on monia tunnettuja haasteita, ja niiden voittaminen ei ole helppoa. Useimmat älyyritykset käyttävät merkittäviä ponnisteluja mallien suojavarusteiden kehittämiseen, mutta tekeminen hyvin edellyttää syvää asiantuntemusta, ja eri yrityksillä on selvästi erilaiset tavoitteet.

Mitä virheitä yritykset yleisimmin tekevät, kun yrittävät ottaa ääniohjatut agentit suoraan perinteisten televiestintäjärjestelmien päälle?

Perinteiset televiestintäjärjestelmät eivät ole suoraan yhdenmukaisia älypuhelupalvelujen kanssa, joten niitä tarvitaan yleensä lisäintegrointi, yleensä SIP-protokollan tai WebSocketsin kautta. Yleisiä virheitä ovat riittämätön palautusjohtaminen, viiveongelmat (joita voidaan aiheuttaa eri tekijöillä) ja skaalautumishaasteet.

Televisio itsessään skaalautuu hyvin, erityisesti VoIP:n kanssa. Älypalvelut ovat vaikeampia skaalata johtuen LLM:ien pyörittämiseen tarvittavasta laitteistovaatimuksesta, ja jopa suuret infrastruktuuripelaajat kuten Amazon (AMZN ) voivat kohtailla kapasiteettirajoituksia, kun on kyse deduuktio-laitteista.

Miten ääniohjattujen platformien on pysyttävä merkittävissä, kun reaaliaikainen äly tulee yhä enemmän autonomiseksi?

Uskon, että älypuhejärjestelmien on keskityttävä SLA:han, koska se voi edelleen olla ongelma joissakin tapauksissa, ja tarvitaan lisää työkaluja testaamiseen ja havainnointiin.

Lopulta kehittyneimmät alustat tarjoavat kaiken tarvittavan, mutta tänään olemme edelleen oppimassa uusia oppeja joka päivä, joista monet tulisi sisällyttää ydinkasaan. Jos työskentelet suurten yritysten tai säädellyissä ympäristöissä, on-premise-versio tuotteestasi voi olla kriittinen.

Kun tarkastelet matkaasi varhaisesta VoIP-infrastruktuurista älypuhealustan johtamiseen tänään, mitä yllätti sinua eniten siinä, miten teollisuus on kehittynyt?

Monet asiat ovat yllättäneet minua, mutta yksi niistä on, että muutokset VoIP-infrastruktuurissa kestävät vuosia. Hyvä esimerkki on, että televiestintä perustuu edelleen kapeakaistaisiin äänikoodereihin (G.711, G.729), kun taas ihmiset ovat jo tottuneet laajakaistaiseen ääneen verkkoviestintäpalveluissa kuten Zoom, Google Meet, WhatsApp jne.

Useimmat älymallit on koulutettu laajakaistaisella äänidatasta. Kaikki nykyaikaiset matkapuhelimet sisältävät laajakaistaiset äänikooderit, mutta on edelleen merkittäviä yhteensopivuusongelmia operaattoritasolla, jotka estävät laajakaistaista ääntä käytettäväksi perinteisissä puheluissa. Se ei ole, että ei olisi lainkaan edistystä, mutta minun mielestäni se on ollut hyvin vaatimaton.