Nir Bar-Lev, CEO & Co-Founder van Allegro AI – Interviewreeks

Nir Bar-Lev is de CEO & Co-Founder van Allegro AI. Allegro AI specialiseert zich in het helpen van bedrijven bij het ontwikkelen, implementeren en beheren van machine- en diepe leeroplossingen. Met Allegro AI brengen organisaties hogerwaardige producten sneller en tegen lagere kosten op de markt en beheren deze. De producten zijn gebaseerd op de Allegro Trains open source ML- & DL-experimentmanager en ML-Ops-pakket.

Wat trok je aanvankelijk aan bij AI?

Wat me in mijn carrière vooral heeft aangetrokken, is het brengen van baanbrekende technologie-innovaties om problemen of kansen (en dat zijn eigenlijk twee kanten van dezelfde medaille) op grote schaal aan te pakken. Ik moet toegeven dat mijn tijd bij Google (GOOGL ) deze neiging zeker heeft gevormd.

AI voldoet zeker aan beide criteria. Het staat aan de voorlopige rand van enkele van de technologie-grenzen van vandaag en heeft het potentieel om vrijwel elk aspect van ons leven op deze planeet te beïnvloeden.

Je hebt een indrukwekkende carrière gehad, die begon bij Google als founding product lead voor Google’s spraakherkenningplatform. Kun je over deze vroege dagen bij Google praten en wat je van deze ervaring hebt geleerd?

Ik kwam rechtstreeks uit de business school van de Wharton School of Business en was getroffen door hoe Google functioneerde op een manier die haaks stond op de gevestigde zakelijke normen over hoe succesvolle bedrijven te runnen, zoals onderwezen op de beste business schools ter wereld en zoals ik had ervaren in mijn carrière voor de business school. Ik herinner me levendig dat ik dit besprak met een paar van mijn collega’s die ook rond dezelfde tijd bij Google kwamen, rechtstreeks uit een MBA.

Het blijkt dat Google – tot op zekere hoogte – het zakelijke spelboek heeft veranderd, maar het genoot ook van een immense virtuele geldstroom van zijn advertentiebedrijf, waardoor het op manieren kon experimenteren die de meeste bedrijven zich niet konden veroorloven. Ik kan getuigen dat toen ik een decennium bij Google doorbracht, het steeds meer “mainstream” gevestigde zakelijke praktijken en denkprocessen aannam naarmate het groeide.

Voor mij was het ook, als hoofd productmanager van het spraakherkenningplatform, noodzakelijk om samen te werken met onderzoekswetenschappers. Dit was eigenlijk een van de eerste, zo niet de eerste, onderzoeksteams bij Google dat echt over toegepast onderzoek ging. Voor mij was dit een grote uitdaging. Onderzoekers hebben een heel andere mentaliteit dan ingenieurs en hier probeerde ik samen te werken met ervaren onderzoekers in een bedrijf dat extreem ingenieursgericht was.

Het blijkt dat de uitdagingen die ik toen, bijna 15 jaar geleden, tegenkwam, heel erg lijken op de problemen die bedrijven vandaag tegenkomen als ze proberen om AI-datawetenschappers in hun organisaties te integreren.

In 2016 bent je doorgegaan als Co-Founder van Allegro AI? Wat was je inspiratie achter het oprichten van Allegro AI?

Bij het oprichten van Allegro AI, sloot ik me aan bij twee geweldige partners die uit de wereld zijn engineeringtalenten. Een van mijn partners was de eerste PhD-student in een van de eerste en momenteel toonaangevende AI-labs in Israël, wat naar verluidt een van de toonaangevende AI-hubs wereldwijd is. Hij had dus echt – voor mij – deelgenomen aan de oprichting van toegepaste AI in de lokale gemeenschap. Hij had de visie om te zien hoe het toepassen van ML / DL in de praktijk te maken zou krijgen met een reeks nieuwe uitdagingen rond schaal, automatisering, betrouwbaarheid, kwaliteit en meer. In het praten met hen werd het me duidelijk dat ik een bijdrage kon leveren aan het team vanuit mijn ervaring bij Google en eerder, om echt een kans te hebben om een bedrijf te creëren dat een enorme impact kan hebben op AI via de tools die we bieden. Google en enkele andere technologie-reuzen zijn in een benijdenswaardige positie wat betreft hun vermogen om eindeloze hulpbronnen van de beste kwaliteit aan deze uitdagingen te verkrijgen. Maar vrijwel iedereen anders kan dat niet betalen (of het nu gaat om toegang tot talent, financiële middelen, bedrijfsfocus, enz.). Dus dit was een kans om precies uit te lijnen met wat ik het liefst doe (zie q1) en om de hele ecosystem te helpen.

Allegro AI fungeert als een open source machine learning- & deep learning managementplatform. Kun je de voordelen van het gebruik van open source software bespreken?

Open source heeft verschillende voordelen. Het belangrijkste is dat het de bredere gemeenschap gebruikt om het product zelf te verbeteren. Gebruikers vinden bugs, er is een brede discussie over functies die van interesse zijn; integratie in andere [open source]-tools is veel gemakkelijker te faciliteren dan tussen twee commerciële organisaties met gesloten broncode-tools; etc.

Het biedt een geweldig model voor een win-win voor zowel de gemeenschap als het bedrijf achter het product. Het leent zich gemakkelijk voor proberen en testen en zelfs uitbreiden voor organisaties die niet / niet willen betalen, en het stelt tegelijkertijd grotere potentiële klanten in staat om te betalen voor uitgebreide functies / services op basis van een breed gebruikt (en dus minder riskant) stuk software.

Allegro AI biedt data management services. Kun je de soort tools bespreken die worden aangeboden voor dit doel?

Allegro Ai biedt zowel gestructureerde als ongestructureerde data management. Echter, terwijl er een reeks bewezen gestructureerde data management-oplossingen zijn, bieden wij een unieke oplossing voor ongestructureerde data.

In het bijzonder is het belangrijk om het type data management dat wij bieden te kwalificeren. Het idee is niet fysiek data management, maar eerder data management vanuit een AI-hoek. Voor AI is het cruciaal voor het data science-team om te weten welke data ze tot hun beschikking hebben. Met ongestructureerde data is dat erg moeilijk. Stel je duizenden of honderdduizenden uren video of audio voor, of miljarden sensorsignalen, enz.

Datawetenschappers moeten de variatie in hun data kennen om deze af te stemmen op de verschillende situaties, zodat ze hun modellen effectief kunnen trainen. Ze moeten weten of er cruciale stukken data ontbreken; of er biases of scheeftrekken in de data zijn.

En dan – aan de andere kant – moeten ze tools hebben om deze situaties op een kosteneffectieve en snelle manier aan te pakken zonder dat ze nieuwe fysieke data moeten zoeken en annoteren / labelen (een zeer kostbare en tijdrovende onderneming).

Dit is in wezen het type tooling dat wij bieden op dit gebied: krachtige tools om “AI BI (business intelligence)” te doen op uw data op een ongekend niveau van granulariteit en detail, en aan de andere kant tools om de data nauwkeurig te integreren in de experimenten en modellen, zodat datawetenschappers met nul code effectieve trainingslopen kunnen instellen met de beschikbare data.

Bovendien bieden wij extra waarde in de optimalisatie van dataflow, data-verplaatsing, enz. Aangezien we het hebben over het verwerken van terabytes aan data. Het verplaatsen ervan is duur en bedrijven hebben een oplossing nodig om dit te optimaliseren.

Allegro AI biedt ook de uitbesteding van data engineering services. Kun je enkele van de beschikbare diensten bespreken?

Allegro Ai is voornamelijk een productbedrijf en wij zien onszelf als aanbieder van de tools, infrastructuur of steigers voor bedrijven om producten met AI (DL / ML)-modellen te ontwikkelen, implementeren en beheren.

Dat gezegd hebbende, is dit een nieuw gebied en onze klanten hebben soms hulp nodig bij het opzetten van hun specifieke pipelines op basis van onze tools, of zelfs bij het opstarten van hun modellen. Wanneer deze situaties zich voordoen, bieden wij aanvullende diensten aan naast onze kernsoftware.

Kun je de belangrijkheid van Federated Learning bespreken en hoe Allegro AI in deze context gebruikt kan worden?

Federated Learning is in wezen de mogelijkheid om één AI-model te trainen met behulp van (getraind op) datasets die op verschillende fysieke locaties zijn geplaatst, zonder deze datasets naar één locatie te brengen. Wij bieden ook een verbeterde versie hiervan, die wij “blind federated learning” of “blind collaborative learning” noemen, waarbij geen enkele entiteit in deze scenario toegang heeft tot data die niet van hen is, inclusief de entiteit die het uiteindelijke model krijgt.

Federated Learning is belangrijk in verschillende situaties waarin gegevensprivacy, regelgeving of IP / vertrouwelijkheid kritiek is om te behouden, terwijl er tegelijkertijd interesse is om verschillende datasets te benutten. Bijvoorbeeld, twee of meer ziekenhuizen of medische instellingen die willen samenwerken aan het trainen van een model voor CT-scans; of twee overheidsinstellingen die willen samenwerken aan data voor nationale veiligheid om een anti-terreurmmodel te bouwen, maar om juridische redenen hun data niet aan elkaar kunnen blootstellen.

Of zelfs situaties waarin een enkele entiteit haar verschillende gegevensopslagplaatsen niet kan verplaatsen omdat dit prohibitief duur is – bijvoorbeeld een wereldwijde automotive OEM die autonome voertuigen wil trainen met behulp van data die door auto’s over de hele wereld zijn verzameld.

Allegro AI is een van de weinige bedrijven wereldwijd met een bewezen en getest commercieel platform dat Federated Learning mogelijk maakt.

Is er nog iets anders dat je over Allegro AI wilt delen?

Allegro AI is een opkomende kracht in de wereld van AI-tools en ML-Ops. In het afgelopen kwartaal, midden in de eerste golf van de COVID-19-crisis, hebben wij een groei meegemaakt die onze klantenbasis in slechts drie maanden heeft verdubbeld.

Bedankt voor het interview, lezers die meer willen leren, kunnen Allegro AI bezoeken op Allegro AI.