Nir Bar-Lev, CEO & Co-Founder van Allegro AI – Interview Series

Nir Bar-Lev is de CEO & Co-Founder van Allegro AI. Allegro AI specialiseert zich in het helpen van bedrijven bij het ontwikkelen, implementeren en beheren van machine- en deep learning-oplossingen. Met Allegro AI brengen organisaties producten van hogere kwaliteit sneller en tegen lagere kosten op de markt en beheren ze deze. De producten zijn gebaseerd op de Allegro Trains open source ML & DL experiment manager en ML-Ops package.

Wat trok je aanvankelijk aan naar AI?

Wat me in mijn carrière het meest aantrok, was het brengen van cutting edge tech-innovatie om problemen of kansen (en eigenlijk zijn dit twee kanten van dezelfde medaille) op enorme schaal aan te pakken. Ik moet toegeven dat mijn tijd bij Google zeker heeft bijgedragen aan deze neiging.

AI voldoet zeker aan beide criteria. Het staat aan de voorhoede van enkele van de technologiefrontiers van vandaag en heeft het potentieel om bijna elk aspect van ons leven op deze planeet te beïnvloeden.

Je hebt een indrukwekkende carrière, die begon bij Google als founding product lead voor Google’s spraakherkenningsplatform. Kun je praten over deze vroege dagen van werken bij Google en wat je van deze ervaring hebt geleerd?

Direct uit de business school van de Wharton School of Business was ik getroffen door hoe Google functioneerde op extreme wijze tegen de gevestigde businessnormen in om succesvolle bedrijven te runnen, zoals onderwezen op de beste business schools ter wereld en zoals ik ervaren had in mijn carrière voor de business school. Ik herinner me levendig dat ik dit besprak met een paar van mijn collega’s die ook rond dezelfde tijd bij Google kwamen, direct uit een MBA.

Het blijkt dat Google – tot op zekere hoogte – het businessplaybook veranderde, maar het genoot ook van een immense virtuele brandstof van geld van zijn advertentiebedrijf, waardoor het op manieren kon experimenteren die de meeste bedrijven niet konden betalen. Ik kan getuigen dat, toen ik een decennium bij Google doorbracht, het steeds meer “mainstream” gevestigde businesspraktijken en denkwijzen aannam naarmate het groeide.

Voor mij was het leiden van het spraakherkenningsplatform als hoofd productmanager ook een grote uitdaging. Ik moest samenwerken met onderzoeks wetenschappers. Dit was eigenlijk een van de eerste, zo niet de eerste, onderzoeksteams bij Google dat echt over toegepast onderzoek ging. Voor mij was dit een grote uitdaging. Onderzoekers hebben een heel andere mindset dan ingenieurs en hier probeerde ik te werken met ervaren onderzoekers in een bedrijf dat extreem ingenieursgeoriënteerd is.

Het blijkt dat de uitdagingen die ik toen bijna 15 jaar geleden tegenkwam, heel erg lijken op de problemen die bedrijven vandaag tegenkomen als ze proberen om AI-datawetenschappers in hun organisaties te integreren.

In 2016 ging je verder als Co-Founder van Allegro AI? Wat was je inspiratie achter het lanceren van Allegro AI?

Bij het oprichten van Allegro AI, sloot ik me aan bij twee geweldige partners die uit de wereld engineeringtalenten komen. Een van mijn partners was de eerste PhD-student in een van de eerste en momenteel leidende AI-labs in Israël, wat naar verluidt een van de leidende AI-hubs wereldwijd is. Dus hij had echt – voor mij – de visie om te zien hoe het toepassen van ML / DL in de praktijk te maken zou hebben met een nieuwe set uitdagingen rond schaal, automatisering, betrouwbaarheid, kwaliteit en meer. In het praten met hen werd het voor mij duidelijk dat ik een bijdrage kon leveren aan het team vanuit mijn ervaring bij Google en eerder, om echt een kans te hebben om een bedrijf te creëren dat een enorme impact kan hebben op AI via de tools die we bieden. Google en enkele andere techreuzen zijn in een benijdenswaardige positie qua hun vermogen om eindeloze hulpbronnen van de beste kwaliteit te verzamelen voor deze uitdagingen. Maar vrijwel iedereen anders kan dat niet betalen (of het nu gaat om toegang tot talent, financiële middelen, bedrijfsfocus, etc.). Dus dit was een kans die precies aansloot bij wat ik het liefst doe (zie q1) en helpen aan het hele ecosysteem.

Allegro AI dient als een open source machine learning & deep learning management platform. Kun je praten over de voordelen van het gebruik van open source software?

Open source heeft verschillende voordelen. Het belangrijkste is dat het de bredere gemeenschap gebruikt om het product zelf te verbeteren. Gebruikers vinden bugs, problemen, er is een brede discussie over functies die van interesse zijn; integratie in andere [open source] tools is veel gemakkelijker te faciliteren dan het zou zijn tussen twee commerciële organisaties met gesloten broncode-proprietair tools; etc.

Het biedt een geweldig model voor een win-win voor zowel de gemeenschap als het bedrijf achter het product. Het leent zich gemakkelijk voor proberen en testen en zelfs uitbreiden voor organisaties die niet / niet zullen betalen, en het stelt tegelijkertijd grotere potentiële klanten in staat om te betalen voor uitgebreide functies / services op basis van een breed gebruikt (en dus minder riskant) stuk software.

Allegro AI biedt data management services. Kun je praten over het type tools dat wordt aangeboden voor dit?

Allegro Ai biedt zowel gestructureerde data- als ongestructureerde data management. Echter, terwijl er een heleboel bewezen gestructureerde data management oplossingen zijn, bieden wij een unieke oplossing voor ongestructureerde data.

In het bijzonder is het belangrijk om het type data management dat we bieden te kwalificeren. Het idee is niet fysiek data management, maar eerder data management vanuit een AI-hoek. Voor AI is het cruciaal voor het data science team om te weten welke data ze tot hun beschikking hebben. Met ongestructureerde data is dat heel moeilijk. Stel je voor dat je duizenden of honderdduizenden uren video of audio hebt. Stel je voor dat je miljarden sensor signalen hebt, enz.

Data scientists moeten de variantie van hun data weten om deze af te stemmen op de verschillende situaties, zodat ze hun modellen effectief kunnen trainen. Ze moeten weten of er kritieke stukken data ontbreken; of er biases of skewness in de data zijn.

En dan – aan de andere kant – moeten ze tools hebben om deze situaties kosteneffectief en snel aan te pakken zonder dat ze nieuwe fysieke data moeten zoeken en annoteren / labelen (een zeer kostbare en tijdrovende onderneming).

Dit is in essentie het type tooling dat we bieden op dit gebied: krachtige tools om “AI BI (business intelligence)” te doen op uw data op een ongekend niveau van granulariteit en detail en aan de andere kant tools om de data strak te integreren in de experimenten en modellen, zodat data scientists met zero code effectieve trainingsruns kunnen opzetten met de data die ze hebben.

Bovenop dat bieden we extra waarde in optimalisatie van data flow, data move, etc. Aangezien we het hebben over het verwerken van terabytes aan data. Het verplaatsen ervan is duur en bedrijven hebben een oplossing nodig om dit te optimaliseren.

Allegro AI biedt ook de outsourcing van data engineering services. Wat zijn enkele van de aanbiedingen die beschikbaar zijn?

Allegro Ai is voornamelijk een productbedrijf en we zien onszelf als leverancier van de tools, infrastructuur of scaffolding voor bedrijven om producten te ontwikkelen, inzetten en beheren met AI (DL / ML) modellen geïntegreerd in hen.

Dat gezegd hebbende, is dit een nieuw gebied en onze klanten hebben soms hulp nodig bij het opzetten van hun specifieke pipelines gebouwd op onze tools, of zelfs hulp bij het opstarten van hun modellen zelf. Wanneer deze situaties zich voordoen, bieden we aanvullende diensten aan onze core s/w-aanbieding.

Kun je praten over het belang van Federated Learning en hoe Allegro AI kan worden gebruikt in deze context?

Federated learning is eigenlijk de mogelijkheid om één AI-model te trainen met datasets die op verschillende fysieke locaties zijn geplaatst zonder deze datasets naar één locatie te brengen. We bieden ook een verbeterde versie hiervan, die we “blind federated learning” of “blind collaborative learning” noemen, waarbij geen enkele entiteit in deze scenario toegang heeft tot data die niet van hen is, inclusief de entiteit die het uiteindelijke model krijgt.

Federated learning is belangrijk in verschillende situaties waarbij gegevensprivacy, regelgeving of IP / vertrouwelijkheid kritiek is om te behouden, terwijl er tegelijkertijd interesse is om verschillende datasets te benutten. Bijvoorbeeld, twee of meer ziekenhuizen of medische instellingen die samen willen werken aan het trainen van een model voor CT-scans; of twee overheidsinstellingen die samen willen werken aan het opbouwen van een model voor nationale veiligheid om terrorisme te bestrijden, maar om juridische redenen hun data niet aan elkaar kunnen blootstellen.

Of zelfs situaties waarin één entiteit zijn verschillende gegevensopslagplaatsen niet kan verplaatsen omdat het prohibitief duur is – bijvoorbeeld een wereldwijd automobielbedrijf dat een model wil trainen voor autonome voertuigen met behulp van data die zijn verzameld door auto’s die over de hele wereld rijden.

Allegro AI is een van de weinige bedrijven ter wereld die een bewezen en getest commercieel platform heeft dat federated learning mogelijk maakt.

Is er nog iets anders dat je zou willen delen over Allegro AI?

Allegro AI is een opkomende kracht in de wereld van AI-tools en ML-Ops. Slechts in het afgelopen kwartaal, tijdens het midden van de eerste golf van de covid-19-crisis, hebben we een groei ervaren die onze klantenbasis meer dan verdubbelde in slechts die 3-maandsperiode.

Bedankt voor het interview, lezers die meer willen leren, moeten bezoeken Allegro AI.