Ný landamæri í Generative AI — Langt frá skýinu

Í upphafi var internetið sem breytti lífi okkar að eilífu - hvernig við höfum samskipti, verslunum, viðskiptum. Og síðan af ástæðum leynd, friðhelgi og kostnaðarhagkvæmni færðist internetið á netbrúnina, sem leiddi til „internets hlutanna“.

Núna er gervigreind, sem gerir allt sem við gerum á netinu auðveldara, persónulegra, gáfulegra. Til að nota það þarf hins vegar stóra netþjóna og mikla tölvugetu, svo það er bundið við skýið. En sömu hvatirnar - leynd, næði, kostnaðarhagkvæmni - hafa knúið fyrirtæki eins og Hailo til að þróa tækni sem gerir gervigreind á jaðrinum kleift.

Án efa er næsta stóra atriðið kynslóðar gervigreind. Generative AI býður upp á gríðarlega möguleika á milli atvinnugreina. Það er hægt að nota til að hagræða vinnu og auka skilvirkni ýmissa höfunda - lögfræðinga, efnishöfunda, grafískra hönnuða, tónlistarmanna og fleira. Það getur hjálpað til við að uppgötva ný lækningalyf eða aðstoða við læknisaðgerðir. Generative AI getur bætt iðnaðar sjálfvirkni, þróað nýjan hugbúnaðarkóða og aukið flutningsöryggi með sjálfvirkri myndun myndbands, hljóðs, myndefnis og fleira.

Hins vegar er skapandi gervigreind eins og hún er til í dag takmörkuð af tækninni sem gerir það kleift. Það er vegna þess að skapandi gervigreind gerist í skýinu - stórar gagnaver dýrra, orkufrekra tölvuörgjörva sem eru fjarri raunverulegum notendum. Þegar einhver sendir frá sér vísbendingu um skapandi gervigreindarverkfæri eins og ChatGPT eða einhverja nýja gervigreindarmyndfundalausn, er beiðnin send í gegnum netið í skýið, þar sem hún er unnin af netþjónum áður en niðurstöðunum er skilað yfir netið.

Þegar fyrirtæki þróa ný forrit fyrir kynslóða gervigreind og nota þau á mismunandi gerðir tækja - myndbandsmyndavélar og öryggiskerfi, iðnaðar- og einkavélmenni, fartölvur og jafnvel bíla - er skýið flöskuháls hvað varðar bandbreidd, kostnað og tengingu.

Og fyrir forrit eins og ökumannsaðstoð, einkatölvuhugbúnað, myndbandsfundi og öryggi getur það verið persónuverndaráhætta að færa gögn stöðugt yfir net.

Lausnin er að gera þessum tækjum kleift að vinna úr skapandi gervigreind á brún. Reyndar, brún-undirstaða generative AI mun gagnast mörgum nýjum forritum.

Generative AI á uppleið

Íhuga að í júní, sagði Mercedes-Benz það myndi kynna ChatGPT fyrir bíla sína. Í ChatGPT-bætta Mercedes, til dæmis, gæti ökumaður beðið bílinn — handfrjáls — um kvöldverðaruppskrift byggða á hráefni sem hann hefur þegar heima. Það er að segja ef bíllinn er tengdur við internetið. Í bílastæðahúsi eða afskekktum stað eru öll veðmál slökkt.

Á síðustu tveimur árum hafa myndbandsfundir orðið okkar flestum öðrum eðlislægum. Nú þegar eru hugbúnaðarfyrirtæki að samþætta gervigreind í myndfundalausnir. Kannski er það til að hámarka hljóð- og myndgæði á flugu, eða til að „staðsetja“ fólk í sama sýndarrými. Nú geta skapandi gervigreindar-knúnar myndbandsráðstefnur sjálfkrafa búið til fundargerðir eða dregið inn viðeigandi upplýsingar frá aðilum fyrirtækisins í rauntíma eftir því sem mismunandi efni eru rædd.

Hins vegar, ef snjallbíll, myndfundakerfi eða önnur jaðartæki geta ekki náð aftur í skýið, þá getur skapandi gervigreind upplifunin ekki gerst. En hvað ef þeir þyrftu þess ekki? Það hljómar eins og ógnvekjandi verkefni miðað við gríðarlega vinnslu á gervigreind í skýi, en það er nú að verða mögulegt.

Generative AI at the Edge

Nú þegar eru til skapandi gervigreind verkfæri, til dæmis, sem geta sjálfkrafa búið til ríkar, grípandi PowerPoint kynningar. En notandinn þarf að kerfið virki hvar sem er, jafnvel án nettengingar.

Á sama hátt erum við nú þegar að sjá nýjan flokk af skapandi gervigreindum „aðstoðarflugmanni“ aðstoðarmönnum sem munu í grundvallaratriðum breyta því hvernig við höfum samskipti við tölvutæki okkar með því að gera mörg venjubundin verkefni sjálfvirk, eins og að búa til skýrslur eða sjá gögn. Ímyndaðu þér að opna fartölvu, fartölvuna þekkja þig í gegnum myndavélina sína og búa síðan til sjálfkrafa aðgerð fyrir daginn/vikuna/mánuðina út frá mest notuðu verkfærunum þínum, eins og Outlook, Teams, Slack, Trello o.s.frv. En til að viðhalda gögnum næði og góða notendaupplifun, þú verður að hafa möguleika á að keyra kynslóða gervigreind á staðnum.

Auk þess að mæta áskorunum um óáreiðanlegar tengingar og gagnavernd, getur edge AI hjálpað til við að draga úr bandbreiddarkröfum og auka afköst forrita. Til dæmis, ef skapandi gervigreind forrit er að búa til gagnaríkt efni, eins og sýndarráðstefnurými, í gegnum skýið, gæti ferlið dregist eftir tiltækri (og dýrri) bandbreidd. Og ákveðnar gerðir af gervigreindarforritum, eins og öryggi, vélfærafræði eða heilsugæslu, krefjast afkastamikilla viðbragða með lítilli biðtíma sem skýjatengingar ráða ekki við.

Í myndbandsöryggi krefst hæfni til að bera kennsl á fólk aftur þegar þeir fara á milli margra myndavéla - sumar staðsettar þar sem net ná ekki til - gagnalíkön og gervigreind vinnslu í raunverulegum myndavélum. Í þessu tilviki er hægt að beita generative AI á sjálfvirkar lýsingar á því sem myndavélarnar sjá í gegnum einfaldar fyrirspurnir eins og: „Finndu 8 ára barnið með rauða stuttermabolinn og hafnaboltahettuna.

Það er kynslóðar gervigreind á brúninni.

Þróun í Edge AI

Með því að taka upp nýjan flokk gervigreindar örgjörva og þróun á grennri, skilvirkari, þó ekki síður öflugri gervigreindargagnalíkönum, er hægt að hanna brúntæki til að starfa skynsamlega þar sem skýjatenging er ómöguleg eða óæskileg.

Auðvitað verður skýjavinnsla áfram mikilvægur þáttur í skapandi gervigreind. Til dæmis verða þjálfun gervigreindarlíkön áfram í skýinu. En athöfnin að beita notendainntakum á þessar gerðir, sem kallast ályktun, getur - og ætti í mörgum tilfellum - að gerast á jaðrinum.

Iðnaðurinn er nú þegar að þróa grannari, smærri, skilvirkari gervigreind módel sem hægt er að hlaða á brún tæki. Fyrirtæki eins og Hailo framleiða gervigreind örgjörva sem eru sérstaklega hannaðir til að framkvæma taugakerfisvinnslu. Slíkir taugakerfis örgjörvar höndla ekki aðeins gervigreindargerðir ótrúlega hratt, heldur gera þeir það líka með minna afli, sem gerir þá orkunýtna og hæfir margvíslegum tækjum, allt frá snjallsímum til myndavéla.

Með því að vinna skapandi gervigreind við jaðarinn getur það einnig í raun jafnvægi á vaxandi vinnuálagi, leyft forritum að stækka stöðugri, létta skýjagagnaver kostnaðarsama vinnslu og hjálpa þeim að minnka kolefnisfótspor sitt.

Generative AI er í stakk búið til að breyta tölvunni aftur. Í framtíðinni gæti LLM á fartölvunni þinni uppfært sjálfkrafa á sama hátt og stýrikerfið þitt gerir í dag - og virka á svipaðan hátt. En til að komast þangað þurfum við að virkja generative AI vinnslu á jaðri netkerfisins. Niðurstaðan lofar að vera meiri afköst, orkunýtni og næði og öryggi. Allt þetta leiðir til gervigreindarforrita sem breyta heiminum jafnmikið og sjálfrar gervigreindar.