Uudet rajoitukset generatiivisessa tekoälyssä — kaukana pilvestä

Aluksi oli internet, joka muutti elämämme lopullisesti — tapamme viestiä, shoppailla, harjoittaa liiketoimintaa. Ja sitten, latenssin, yksityisyyden ja kustannustehokkuuden vuoksi, internet siirtyi verkon reunaan, mikä johti “asioiden internetin” syntymään.

Nyt on tekoäly, joka tekee kaiken, mitä teemme internetissä, helpommaksi, henkilökohtaisemmaksi ja älykkäämmäksi. Sen käyttämiseen tarvitaan kuitenkin suuria palvelimia ja suurta laskentakapasiteettia, joten se on rajoitettu pilveen. Mutta samat motivoidut — latenssi, yksityisyys, kustannustehokkuus — ovat ajaneet yrityksiä, kuten Hailoa, kehittämään tekniikoita, jotka mahdollistavat tekoälyn käytön verkon reunaan.

Epäilemättä seuraava suuri asia on generatiivinen tekoäly. Generatiivinen tekoäly tarjoaa valtavan potentiaalin eri aloilla. Se voidaan käyttää työn sujuvoittamiseen ja eri luovien alojen tehokkuuden lisäämiseen — lakimiehillä, sisällöntuottajilla, graafisilla suunnittelijoilla, muusikoilla ja monilla muilla. Se voidaan käyttää uusien lääkeaineiden kehittämiseen tai avustaa lääkinnällisissä menettelyissä. Generatiivinen tekoäly voidaan käyttää teollisuuden automaation parantamiseen, uuden ohjelmakoodin kehittämiseen ja liikenteen turvallisuuden parantamiseen automaattisen videon, äänen, kuvan ja muiden synteesin kautta.

Kuitenkin generatiivinen tekoäly on nykyisessä muodossaan rajoitettu tekniikalla, joka mahdollistaa sen. Tämä johtuu siitä, että generatiivinen tekoäly tapahtuu pilvessä — suurissa, kalliissa, energiankuluttavissa tietokoneissa, jotka sijaitsevat kaukana varsinaisista käyttäjistä. Kun joku antaa käskyn generatiiviselle tekoälytyökalulle, kuten ChatGPT:lle tai jollekin uudelle tekoälypohjaiselle videoneuvotteluratkaisulle, pyyntö lähetetään internetin kautta pilveen, jossa se prosessoidaan palvelimilla ennen kuin tulokset palautetaan verkon kautta.

Kun yritykset kehittävät uusia sovelluksia generatiiviselle tekoälylle ja käyttävät niitä erilaisilla laitteilla — videokameroilla ja turvajärjestelmillä, teollisilla ja henkilökohtaisilla roboteilla, kannettavilla tietokoneilla ja jopa autoilla — pilvi on pullonkaula kaistanleveyden, kustannusten ja yhteyden kannalta.

Ja sovelluksille, kuten ajonavistimille, henkilökohtaisille tietokoneohjelmille, videoneuvotteluille ja turvallisuudelle, jatkuvasti siirtäminen dataa verkon yli voi olla yksityisyydellinen riski.

Ratkaisu on mahdollistaa näiden laitteiden prosessointi generatiivista tekoälyä verkon reunaan. Itse asiassa reunapohjainen generatiivinen tekoäly on hyödyllinen monille uusille sovelluksille.

Generatiivinen tekoäly nousee

Oletetaan, että kesäkuussa Mercedes-Benz ilmoitti, että se esittäisi ChatGPT:n autoihinsa. ChatGPT:llä varustetussa Mercedesissä esimerkiksi kuljettaja voisi pyytää autolta — käsi vapaa — ruokareseptiä aineista, joita hänellä on jo kotona. Se on mahdollista, jos auto on yhdistetty internetiin. Pysäköintihallissa tai kaukaisella paikalla kaikki panokset ovat pois.

Viime vuosina videoneuvottelu on tullut toiseksi luonnolliseksi useimmille meistä. Jo nyt ohjelmistoyritykset integroivat tekoälymuotoja videoneuvotteluratkaisuihinsa. Ehkä se on optimoida äänen ja videon laatua lennossa tai “sijoittaa” ihmisiä samaan virtuaalitilaan. Nyt generatiivisen tekoälyvoimaiset videoneuvottelut voivat automaattisesti luoda kokousmuistiot tai hakea asiaankuuluvaa tietoa yrityksen lähteistä reaaliajassa, kun eri aiheita käsitellään.

Kuitenkin, jos älykäs auto, videoneuvottelujärjestelmä tai mikä tahansa muu reunalaite ei pysty yhteyttä pilveen, generatiivinen tekoälykokemus ei voi tapahtua. Mutta mitä, jos ne eivät tarvitse? Se kuulostaa haastavalta tehtävältä, kun otetaan huomioon pilvi-tekolyön valtava prosessointi, mutta se on nyt mahdollista.

Generatiivinen tekoäly reunassa

Jo nyt on generatiivisia tekoälytyökaluja, esimerkiksi, jotka voivat automaattisesti luoda rikkaan, mielenkiintoisen PowerPoint-esityksen. Mutta käyttäjän tarvitsee järjestelmän toimivan mistä tahansa, jopa ilman internet-yhteyttä.

Vastaavasti näemme uuden luokan generatiivisia tekoälypohjaisia “copilot”-avustajia, jotka muuttavat perustavasti, miten vuorovaikutamme tietokoneidemme kanssa, automatisoimalla monia rutiininomaisia tehtäviä, kuten raporttien luomista tai tietojen visualisointia. Kuvitellaan, että avaat kannettavan tietokoneen, tietokone tunnistaa sinut kameransa avulla ja luo automaattisesti toimintasuunnitelman päivälle/viikolle/kuukaudelle perustuen työkaluihisi, kuten Outlookiin, Teamsiin, Slacciin, Trelloon ja muuhun. Mutta yksityisyyden ja hyvän käyttökokemuksen ylläpitämiseksi on mahdollista suorittaa generatiivista tekoälyä paikallisesti.

Lisäksi haasteiden kohtaamiseen, kuten epäluotettavien yhteyksien ja tietosuojan haasteisiin, reunatekoäly voi auttaa vähentämään kaistanleveyden vaatimuksia ja parantamaan sovelluksen suorituskykyä. Esimerkiksi, jos generatiivinen tekoälysovellus luo data-rikkaita sisältöjä, kuten virtuaalitilaa, pilven kautta, prosessi voi viivästyä riippuen saatavissa olevasta (ja kalliista) kaistanleveydestä. Ja tiettyjen generatiivisten tekoälysovellusten, kuten turvallisuuden, robottiikan ja terveydenhuollon, vaatimukset ovat korkean suorituskyvyn ja matalan viiveen vastauksia, joita pilviyhteydet eivät voi käsitellä.

Videon turvallisuudessa ihmisten uudelleentunnistaminen, kun he liikkuvat useiden kameroiden välillä — jotkut kamerat sijoitetaan paikkoihin, joissa verkkoja ei voida tavoittaa — edellyttää data-malleja ja tekoälyprosessointia itse kamerassa. Tässä tapauksessa generatiivinen tekoäly voidaan soveltaa automaattisiin kuvausten luomiseen yksinkertaisista kysymyksistä, kuten “Löydä 8-vuotias lapsi, jolla on punainen t-paita ja baseball-lippis.”

Se on generatiivinen tekoäly reunassa.

Reunatekoälyn kehitys

Uuden tekoälyprosessoriluokan omaksumisen ja kevyempien, tehokkaampien generatiivisten tekoälydatamallien kehittämisen kautta reunalaitteet voidaan suunnitella toimimaan älykkäästi, missä pilviyhteys on mahdoton tai ei-toivottu.

Tietysti pilviprosessointi säilyy kriittisenä osana generatiivista tekoälyä. Esimerkiksi tekoälymallien koulutus säilyy pilvessä. Mutta käyttäjän syötteiden soveltaminen näihin malleihin, jota kutsutaan päättelyksi, voidaan — ja useissa tapauksissa pitäisi — tapahtua reunassa.

Teollisuus kehittää jo kevyempiä, pienempiä, tehokkaampia tekoälymalleja, jotka voidaan ladata reunalaitteisiin. Yritykset, kuten Hailo, valmistavat tekoälyprosessoreita, jotka on suunniteltu suorittamaan neurverkkojen prosessointia. Nämä neurverkko-prosessorit käsittelevät tekoälymalleja uskomattoman nopeasti ja tehokkaasti, ja ne tekevät niin vähällä virralla, mikä tekee niistä energiatehokkaita ja soveltuvia moniin reunalaitteisiin, älypuhelimiin ja kameroiden lisäksi.

Generatiivisen tekoälyn prosessointi reunassa voidaan myös tehokkaasti ladata kasvavia työkuormia, sallia sovellusten skaalautua vakaammin, helpottaa pilvipalvelimien kallista prosessointia ja auttaa niitä vähentämään hiilijalanjälkeään.

Generatiivinen tekoäly on valmis muuttamaan tietokoneita jälleen. Tulevaisuudessa LLM (Large Language Model) kannettavassa tietokoneessasi voi päivittää itsensä samalla tavalla kuin käyttöjärjestelmäsi tänään — ja toimia samalla tavalla. Mutta päästäksemme sinne, meidän on mahdollistettava generatiivisen tekoälyn prosessointi verkon reunassa. Tuloksena on luvattu olla suurempi suorituskyky, energiatehokkuus ja yksityisyys ja turvallisuus. Kaikki nämä johtavat tekoälysovelluksiin, jotka muuttavat maailmaa yhtä paljon kuin generatiivinen tekoäly itsessään.