Orr Danon, forstjóri og meðstofnandi Hailo – Interview Series

Orr Danon, er forstjóri og meðstofnandi Hailo, fyrirtæki sem hefur það hlutverk að gera snjalltækni kleift að ná fullum möguleikum. Lausnin sem Hailo kynnir brúar bilið milli núverandi og framtíðar gervigreindartækni og reiknigetu sem þarf til að knýja þessi forrit. Fyrirtækið einbeitir sér að því að byggja gervigreind örgjörva nógu skilvirka og þétta til að reikna út og túlka mikið magn gagna í rauntíma.

Gætirðu deilt upprunasögunni á bak við Hailo?

Ég stofnaði Hailo árið 2017 ásamt samstarfsmönnum sem ég hafði hitt áður í úrvalstæknideild ísraelska varnarliðsins (IDF). Á meðan ég vann með stofnendum mínum Rami Feig og Avi Baum að IoT (Internet of Things) lausnum, kom minna þekkt smíði – „Deep Learning“ – upp í gegnum rannsóknir okkar. Að lokum tókum við saman sérfræðinga á þessu sviði til að þróa nýja djúpnámslausn sem miðar að því að leysa galla öldrunar tölvuarkitektúrs til að gera snjalltækjum kleift að starfa á skilvirkari og skilvirkari hátt á brúninni. Eftir óheppilegt fráfall Rami sá Hailo teymið sýn hans í gegn - að búa til byltingarkennda gervigreindargjörva Hailo.

Gætirðu útskýrt í stuttu máli hvers vegna brúntölvur eru oft betri lausn en skýjatölvu?

Þegar við byrjuðum á Hailo var truflandi gervigreind tækni að mestu leyti takmörkuð við skýið, eða stórar gagnaver, þar sem þær eru kostnaðarsamar, krefjast mikils tölvuafls og mikils vélbúnaðar til að keyra og eyða umtalsverðu magni af orku. Við trúum því að gervigreind hjálpi til við að skapa betri, öruggari, afkastameiri og spennandi heim, en til þess að þetta geti gerst þarf gervigreind líka að vera til staðar á jaðrinum. Til að innleiða forrit í rauntíma og lítilli biðtíma á tækjum eins og nettengdum myndavélum, farartækjum og IoT-tækjum er vinnsla við upprunann nauðsynleg fyrir skilvirka notkun. Með brún gervigreind getum við nýtt til fulls fjölda lykilnotkunartilvika sem knýja framtíð snjallborga, greindar samgöngur, sjálfvirkan akstur, myndbandsstjórnunarkerfi (VMS), Industry 4.0 og fleira.

Hver eru nokkrar af áskorunum á bak við vinnslu sjónrænna gagna á brúninni?

Markmiðið er að ná eins miklum afköstum og eins mörgum eiginleikum og hægt er að pakka inn í jaðartæki svo þau geti unnið gríðarlegt magn af sjónrænum gögnum hratt og með lítilli leynd; samt sem áður er ein af helstu takmörkunum orkunotkun – bæði hvað varðar hversu mikið afl er hægt að afhenda tækið og hita sem myndast af örgjörvanum.

með greindar myndavélar, til dæmis þurfa framleiðendur gervigreindar örgjörva til að passa inn í 2-3W umslag vegna þess að myndavélin getur ekki notað viftukælingu og vegna þess að hún hefur yfirleitt takmarkaðan aflgjafa. Þetta eru bráðir sársaukapunktar vegna þess að við svo lágt afl er afköst afar takmörkuð þegar flestir örgjörvar á markaðnum eru notaðir.

Hvernig endurmyndaði Hailo AI örgjörva arkitektúr?

Við gerðum það með því að hanna AI örgjörva sérstaklega sem er smíðaður til að vinna á jaðartækjum, að teknu tilliti til stærðar og afltakmarkana. Með því að gera það gerum við fordæmalausa tölvuafl á jaðartækjum, sem gerir þeim kleift að keyra gervigreind á skilvirkari og skilvirkari hátt og framkvæma háþróuð djúpnámsforrit eins og hlutgreiningu, hlutgreiningu, skiptingu og fleira, með frammistöðustig sem áður var aðeins hægt í ský. Þessi einstaka arkitektúr gerir vinnslu á mörgum straumum og fjölforritum kleift, sem bætir afköst og kostnaðarhagkvæmni brúntækja.

Eitt dæmi um notkun þessa arkitektúrs er Video Management Systems (VMS). Þessi kerfi eru notuð á svæðum með fjölmörgum myndavélum, svo sem skrifstofubyggingum, leikvangum, snjallborgum og þjóðvegum til að stjórna betur öryggi og öryggi, þar á meðal eftirlit með neyðartilvikum og slysum, grunsamlegri virkni, umferðarstjórnun, aðgangsstýringu, gjaldtöku og fleira. . Í mörg ár treystu fyrirtæki algjörlega á handvirka ferla þegar kom að því að safna, greina og geyma myndbandsgögn. Nú, með einstökum taugakerfisarkitektúr Hailo, getur VMS framkvæmt mörg verkefni samhliða, í rauntíma, sem gerir kleift að vinna fleiri rásir og fleiri forrit samtímis. Umsóknir fela í sér háþróaða númeraplötuviðurkenningu (LPR), umferðareftirlit, hegðunarskynjun og fleira.

Gætirðu rætt um taugakerfisvinnslukjarna og nálgun þína við að reikna tauganet samhliða á móti röð?

AI örgjörvinn okkar sameinar margar nýjungar sem fjalla um grundvallareiginleika tauganeta. Við beittum nýstárlegu stjórnkerfi sem byggir á samsetningu vélbúnaðar og hugbúnaðar til að ná mjög lágum júlum í hverja aðgerð með miklum sveigjanleika.

Einstök gagnaflæðismiðaður arkitektúr okkar lagar sig að uppbyggingu taugakerfisins og gerir mikla auðlindanýtingu kleift. Hailo gagnaflæðisþýðandinn er samsettur af fullum stafla hugbúnaði, samhönnuðum með vélbúnaði okkar, til að gera skilvirka dreifingu á taugakerfi. Gagnaflæðisþýðandinn fær notendalíkanið sem inntak. Sem hluti af uppbyggingarflæðinu brýtur gagnaflæðisþýðandinn hvert netlag niður í nauðsynlega reikniþætti og myndar auðlindagraf sem er framsetning marknetsins. Gagnaflæðisþýðandinn samsvarar síðan auðlindagrafi marknetsins við þær efnislegu auðlindir sem eru tiltækar á örgjörvanum og myndar sérsniðna gagnapípu fyrir marknetið. Þegar það er framkvæmt á þennan hátt er mjög skilvirkt að keyra líkan á tæki og notar lágmarks tölvuauðlindir á hverjum tíma.

Hvað eru sumir af núverandi Hailo-undirstaða kerfum sem eru í boði fyrir fyrirtæki?

Hægt er að tengja Hailo-8™ örgjörva og gervigreindareiningar við margs konar brúntæki, sem hjálpa til við að knýja marga geira með yfirburða gervigreindargetu - þar á meðal bíla, snjallborgir, snjallverslun og iðnaðar 4.0.

Hailo hefur átt í samstarfi við leiðandi VMS og ISV leikmenn eins og Innovatrics, Network Optix, GeoVision og Art of Logic, til að gera vídeógreiningar í fremstu röð.

Hversu mikinn tíma geta þessar lausnir sparað viðskiptavinum sem eru að samþætta gervigreindarlausnir?

Að útvega samþættum lausnum sem keyra á rótgrónum VMS kerfum er tímasparnaður, en þetta er ekki helsti ávinningur kerfisins. Hailo-undirstaða VMS lausnir gera fleiri strauma kleift að keyra samhliða og fleiri umsóknir eru unnar fyrir hvern straum.

Getan til að virkja gervigreind til að vinna úr mörgum myndbandsstraumum þýðir líka að aðeins þarf að streyma tilteknum atburðum í skýið til geymslu, sem gerir verulegan sparnað á bandbreidd og geymslurými.

Hver er nokkur lærdómur sem þú hefur dregið af því að nota djúpnámsforrit í brúntækjum?

Við höfum séð af eigin raun hvernig gervigreind á jaðrinum mun gegna lykilhlutverki í að knýja fram nýsköpun í margs konar geirum á næstu árum. Þegar fyrirtæki leita að lausnum sem tryggja að tæki þeirra séu öflugri, fjölhæfari, móttækilegri og öruggari, mun skýið halda áfram að víkja fyrir jaðartækjum og tvinngerðum. Þeir sem ná árangri í að innleiða gervigreind á brúninni munu ná forskoti yfir borðið.

Hver er framtíðarsýn þín fyrir brúntölvu?

Edge computing - sérstaklega gervigreind á jaðrinum - hefur getu til að gjörbreyta því hvernig heimurinn í kringum okkur virkar, gera tæki eins og greindar myndavélar, snjallfarartæki, sjálfstætt vélmenni, háþróuð umferðarstjórnunartæki, snjallsmíði, snjallverksmiðjur og fleira. Gervigreind á jaðrinum hefur vald til að breyta hverju sem er og gerir nýjum forritum kleift að gera heiminn okkar snjallari og öruggari. AI vinnslutækni Hailo er mikilvægur þáttur í öllum þessum notkunartilfellum. Við munum halda áfram samstarfi við framleiðendur og frumkvöðla um allan heim til að gera þessar lausnir aðgengilegri.

Þakka þér fyrir frábært viðtal, lesendur sem vilja læra meira ættu að heimsækja Hailo.