Noah Schwartz, mede-oprichter en CEO van Quorum AI – Interviewreeks

Noah is een architect van AI-systemen. Voordat hij Quorum AI oprichtte, werkte Noah 12 jaar in het academische onderzoek, eerst aan de University of Southern California en later aan Northwestern als adjunct-hoofd van de afdeling Neurobiologie. Zijn werk richtte zich op de verwerking van informatie in de hersenen en hij heeft zijn onderzoek omgezet in producten op het gebied van augmented reality, brain-computer interfaces, computer vision en embedded robotics besturingssystemen.

Uw interesse in AI en robotica begon toen u nog een klein jongetje was. Hoe werd u voor het eerst aan deze technologieën geïntroduceerd?

De eerste vonk kwam van sciencefictionfilms en een liefde voor elektronica. Ik herinner me dat ik de film Tron zag toen ik acht jaar oud was, gevolgd door Electric Dreams, Short Circuit, DARYL, War Games en anderen in de daaropvolgende jaren. Hoewel het via fictie werd gepresenteerd, blies het idee van kunstmatige intelligentie me weg. En hoewel ik nog maar acht jaar oud was, voelde ik een onmiddellijke verbinding en een intense aantrekkingskracht naar AI die nooit is afgenomen in de tijd sindsdien.

Hoe zijn uw passies voor zowel AI als robotica geëvolueerd?

Mijn interesse in AI en robotica ontwikkelde zich parallel met een passie voor de hersenen. Mijn vader was een biologieleraar en leerde me over het lichaam, hoe alles werkte en hoe alles met elkaar verbonden was. Het kijken naar AI en het kijken naar de hersenen voelde voor mij als hetzelfde probleem – of tenminste, ze hadden hetzelfde uiteindelijke vraag, namelijk: Hoe werkt dat? Ik was geïnteresseerd in beide, maar ik kreeg niet veel blootstelling aan AI of robotica op school. Daarom volgde ik AI in mijn vrije tijd en studeerde ik biologie en psychologie op school.

Toen ik op de universiteit kwam, ontdekte ik de Parallel Distributed Processing (PDP) boeken, wat enorm voor me was. Het waren mijn eerste introductie tot echte AI, wat me vervolgens terugleidde naar de klassiekers zoals Hebb, Rosenblatt en zelfs McCulloch en Pitts. Ik begon neurale netwerken te bouwen op basis van neuroanatomie en wat ik had geleerd uit biologie- en psychologielessen op school. Na mijn afstuderen werkte ik als netwerkengineer, waar ik complexe, wide-area-netwerken bouwde en software schreef om het verkeer op die netwerken te automatiseren en te beheren – een beetje zoals het bouwen van grote hersenen. Het werk herontvlamde mijn passie voor AI en motiveerde me om naar de graduate school te gaan om AI en neurologie te studeren, en de rest is geschiedenis.

Voordat u Quorum AI oprichtte, werkte u 12 jaar in het academische onderzoek, eerst aan de University of Southern California en later aan Northwestern als adjunct-hoofd van de afdeling Neurobiologie. Op dat moment richtte uw werk zich op de verwerking van informatie in de hersenen. Kunt u ons door sommig van dit onderzoek heen loodsen?

In brede zin probeerde mijn onderzoek de vraag te beantwoorden: Hoe doet de hersenen wat ze doen met alleen wat ze ter beschikking hebben? Om te beginnen, geloof ik niet dat de hersenen een soort computer zijn (in de von Neumann-zin). Ik zie het als een enorm netwerk dat voornamelijk stimulus-respons- en signaal-encoderingsoperaties uitvoert. Binnen dat enorme netwerk zijn er duidelijke patronen van connectiviteit tussen functioneel gespecialiseerde gebieden. Als we inzoomen, zien we dat neuronen niet om het even welk signaal dragen of in welk deel van de hersenen ze zich bevinden – ze opereren op basis van zeer voorspelbare regels. Dus als we de functie van deze gespecialiseerde gebieden willen begrijpen, moeten we een paar vragen stellen: (1) Hoe convergeert de invoer als deze door het netwerk reist met andere invoer om een beslissing te produceren? (2) Hoe vormt de structuur van die gespecialiseerde gebieden zich als gevolg van ervaring? En (3) hoe veranderen ze verder als we onze hersenen gebruiken en leren in de loop van de tijd? Mijn onderzoek probeerde deze vragen te beantwoorden met een combinatie van experimenteel onderzoek, informatie-theorie en modellering en simulatie – iets dat ons in staat zou stellen om kunstmatige beslissingsystemen en AI te bouwen. In neurobiologische termen bestudeerde ik neuroplasticiteit en microanatomie van gespecialiseerde gebieden zoals de visuele cortex.

U hebt uw werk vervolgens omgezet in augmented reality en brain-computer interfaces. Wat waren enkele van de producten waar u aan werkte?

Rond 2008 werkte ik aan een project dat we nu augmented reality zouden noemen, maar toen was het gewoon een systeem voor het volgen en voorspellen van oogbewegingen, en vervolgens het bijwerken van iets op het scherm op basis van die voorspellingen. Om het systeem in real-time te laten werken, bouwde ik een biologisch geïnspireerd model dat voorspelde waar de kijker naar zou kijken op basis van hun microsaccades – kleine oogbewegingen die optreden net voordat u uw ogen verplaatst. Met behulp van dit model kon ik voorspellen waar de kijker naar zou kijken, en vervolgens de frame buffer in de graphics card bijwerken terwijl hun ogen nog in beweging waren. Tegen de tijd dat hun ogen die nieuwe locatie op het scherm bereikten, was het beeld al bijgewerkt. Dit liep op een gewone desktopcomputer in 2008, zonder enige vertraging. De technologie was best indrukwekkend, maar het project haalde de volgende ronde van financiering niet, dus het stierf.

In 2011 deed ik een meer gefocuste poging tot productontwikkeling en bouwde een neurale netwerk dat feature discovery kon uitvoeren op streaming EEG-gegevens die we van de schedel maten. Dit is de core-functie van de meeste brain-computer interface-systemen. Het project was ook een experiment in hoe klein van een voetafdruk konden we dit laten draaien? We hadden een hoofdtelefoon die een paar kanalen van EEG-gegevens las bij 400 Hz die via Bluetooth naar een Android-telefoon werden gestuurd voor feature discovery en classificatie, en vervolgens naar een Arduino-gebaseerde controller die we in een standaard RC-auto hadden geïntegreerd. Als iemand de EEG-hoofdtelefoon droeg, kon hij de auto besturen en sturen door zijn gedachten te veranderen van het doen van mentale wiskunde naar het zingen van een lied. De algoritme liep op de telefoon en creëerde een persoonlijke “brain fingerprint” voor elke gebruiker, waardoor ze tussen verschillende robotische apparaten konden schakelen zonder dat ze op elk apparaat opnieuw hoefden te trainen. De slagzin die we bedachten was “Brain Control Meets Plug-and-Play.”

In 2012 breidde we het systeem uit zodat het op een meer gedistribueerde manier op kleinere hardware kon werken. We gebruikten het om een multi-segment, multi-joint robotarm te besturen waarvan elk segment werd gecontroleerd door een onafhankelijke processor die een ingebedde versie van de AI uitvoerde. In plaats van een centrale controller te gebruiken om de arm te manipuleren, lieten we de segmenten zichzelf organiseren en hun doel bereiken op een manier die lijkt op een zwerm, gedistribueerde manier. Met andere woorden, zoals mieren die een mierenbrug vormen, zouden de armsegmenten samenwerken om een doel in de ruimte te bereiken.

We gingen in dezelfde richting toen we Quorum AI voor het eerst lanceerden – oorspronkelijk bekend als Quorum Robotics – in 2013. We realiseerden ons al snel dat het systeem geweldig was vanwege de algoritme en architectuur, niet vanwege de hardware, dus in het najaar van 2014 zijn we volledig overgestapt op software. Nu, acht jaar later, keert Quorum AI terug naar die robotische wortels door ons framework toe te passen op de NASA Space Robotics Challenge.

Uw baan als professor opzeggen om een start-up te lanceren moet een moeilijke beslissing zijn geweest. Wat inspireerde u om dit te doen?

Het was een enorme sprong voor me op veel manieren, maar zodra de kans zich voordeed en het pad duidelijk werd, was het een gemakkelijke beslissing. Als professor denk je in meerdere jaren en werk je aan zeer lange onderzoeksdoelen. Het lanceren van een start-up is het tegenovergestelde daarvan. Echter, één ding dat academisch leven en start-up-leven gemeen hebben, is dat beide van je vereisen dat je constant leert en problemen oplost. In een start-up kan dit betekenen dat je een oplossing probeert te herscheppen om productontwikkelingsrisico’s te verminderen of dat je een nieuwe verticale bestudeert die baat kan hebben bij onze technologie. Werken in AI is het dichtstbijzijnde dat ik ooit heb gehad bij een “roeping”, dus ondanks alle uitdagingen en ups en downs voel ik me enorm gelukkig om het werk te doen dat ik doe.

U hebt sindsdien Quorum AI ontwikkeld, dat realtime, gedistribueerde kunstmatige intelligentie voor alle apparaten en platforms ontwikkelt. Kunt u ons meer vertellen over wat dit AI-platform precies doet?

Het platform heet de Environment for Virtual Agents (EVA), en het stelt gebruikers in staat om modellen te bouwen, trainen en implementeren met behulp van onze Engram AI Engine. Engram is een flexibele en portable wrapper die we hebben gebouwd rond onze onbegeleide leer-algoritmes. De algoritmes zijn zo efficiënt dat ze in real-time kunnen leren, terwijl het model voorspellingen genereert. Omdat de algoritmes taakagnostisch zijn, is er geen expliciete invoer of uitvoer voor het model, dus kunnen voorspellingen op een Bayesiaanse manier worden gedaan voor elke dimensie zonder opnieuw te trainen en zonder last te hebben van catastrofale vergetelheid. De modellen zijn ook transparant en decomponeerbaar, wat betekent dat ze kunnen worden onderzocht en uit elkaar gehaald in afzonderlijke dimensies zonder te verliezen wat er is geleerd.

Als ze eenmaal zijn gebouwd, kunnen de modellen via EVA worden geïmplementeerd op elk type platform, van aangepaste ingebedde hardware tot de cloud. EVA (en de ingebedde hostsoftware) bevatten ook verschillende tools om de functionaliteit van elk model uit te breiden. Een paar snelle voorbeelden: modellen kunnen tussen systemen worden gedeeld via een publicatie/abonnementsysteem, waardoor gedistribueerde systemen federated learning kunnen bereiken over zowel tijd als ruimte. Modellen kunnen ook worden geïmplementeerd als autonome agenten om willekeurige taken uit te voeren, en omdat het model taakagnostisch is, kan de taak tijdens runtime worden gewijzigd zonder opnieuw te trainen. Elk afzonderlijk agent kan worden uitgebreid met een privé “virtuele” EVA, waardoor de agent modellen van andere agenten op een schaalvrije manier kan simuleren. Ten slotte hebben we enkele wrappers gemaakt voor diepe leer- en versterkte leer-systemen (op basis van Keras) om deze modellen in staat te stellen samen te werken met de platform, samen met meer flexibele Engram-gebaseerde systemen.

U hebt de Quorum AI-algoritmes eerder omschreven als “wiskundige poëzie”. Wat bedoelde u daarmee?

Als je een model bouwt, of je nu de hersenen modelleert of salesgegevens voor je bedrijf, begin je met het inventariseren van je gegevens en probeer je bekende klassen van modellen uit om het systeem te benaderen. In wezen creëer je ruwe schetsen van het systeem om te zien wat het beste past. Je verwacht niet dat dingen heel goed passen, en er is enige trial and error als je verschillende hypothesen test over hoe het systeem werkt, maar met enige finesse kun je de gegevens redelijk goed vangen.

Toen ik neuroplasticiteit in de hersenen modelleerde, begon ik met de gebruikelijke aanpak van het in kaart brengen van alle moleculaire paden, overgangstoestanden en dynamica die ik dacht dat ertoe deden. Maar ik ontdekte dat toen ik het systeem reduceerde tot zijn meest basale componenten en die componenten in een bepaalde volgorde arrangeerde, het model steeds nauwkeuriger werd tot het de gegevens bijna perfect paste. Het was alsof elke operator en variabele in de vergelijkingen precies waren wat ze nodig hadden om de gegevens te passen, er was niets extra’s en alles was essentieel om de gegevens te passen.

Toen ik het model in grotere en grotere simulaties aansloot, zoals de ontwikkeling van het visuele systeem of gezichtsherkenning, bijvoorbeeld, kon het zeer complexe connectiviteitspatronen vormen die overeenkwamen met wat we in de hersenen zien. Omdat het model wiskundig was, konden die hersenpatronen worden begrepen door middel van wiskundige analyse, waardoor nieuwe inzichten ontstonden in wat de hersenen leren. Sindsdien hebben we de differentiaalvergelijkingen die het model vormen opgelost en vereenvoudigd, waardoor de berekeningsEfficiëntie met meerdere ordes van grootte is verbeterd. Het mag dan geen echte poëzie zijn, maar het voelde zeker als zoiets!

Quorum AI’s platform toolkit stelt apparaten in staat om met elkaar te verbinden om te leren en gegevens te delen zonder dat ze via cloud-gebaseerde servers hoeven te communiceren. Wat zijn de voordelen van deze aanpak in vergelijking met het gebruik van de cloud?

We geven gebruikers de optie om hun AI overal te plaatsen waar ze dat willen, zonder de functionaliteit van de AI te compromitteren. De status quo in AI-ontwikkeling is dat bedrijven meestal genoodzaakt zijn om beveiliging, privacy of functionaliteit te compromitteren omdat hun enige optie is om cloud-gebaseerde AI-diensten te gebruiken. Als bedrijven proberen hun eigen AI in-house te bouwen, vereist dit vaak veel geld en tijd, en de ROI is zelden waard de risico’s. Als bedrijven AI willen implementeren op individuele apparaten die niet zijn verbonden met de cloud, wordt het project al snel onmogelijk. Als gevolg daarvan wordt AI-adoptie een fantasie.

Ons platform maakt AI toegankelijk en betaalbaar, waardoor bedrijven een manier hebben om AI-ontwikkeling en -adoptie te verkennen zonder de technische of financiële overhead. En bovendien stelt ons platform gebruikers in staat om van ontwikkeling tot implementatie te gaan in één naadloze stap.

Ons platform integreert ook met en verlengt de levensduur van andere “legacy”-modellen zoals diepe leer- en versterkte leer-systemen, waardoor bedrijven bestaande systemen kunnen hergebruiken en integreren in nieuwe toepassingen. Evenzo, omdat onze algoritmes en architectuur uniek zijn, zijn onze modellen geen black boxes, dus alles wat het systeem leert kan door mensen worden onderzocht en uitgebreid naar andere gebieden van het bedrijf.

Sommigen geloven dat gedistribueerde kunstmatige intelligentie (DAI) de weg kan banen voor algemene kunstmatige intelligentie (AGI). Schrijft u zich in voor deze theorie?

Ik doe dat, en niet alleen omdat dat het pad is dat we voor onszelf hebben uitgestippeld! Als je naar de hersenen kijkt, is het geen monolithisch systeem. Het bestaat uit afzonderlijke, gedistribueerde systemen die elk zijn gespecialiseerd in een smal bereik van hersenfuncties. We weten misschien niet wat een bepaald systeem doet, maar we weten dat zijn beslissingen in hoge mate afhankelijk zijn van het type informatie dat het ontvangt en hoe die informatie verandert in de loop van de tijd. (Dit is waarom neurobiologische onderwerpen als de connectoom zo populair zijn.)

Naar mijn mening, als we AI willen bouwen die flexibel is en zich gedraagt en presteert als de hersenen, dan is het logisch om gedistribueerde architecturen te overwegen zoals die we in de hersenen zien. Men zou kunnen argumenteren dat diepe leer-architecturen zoals multi-laagsnetwerken of CNN’s in de hersenen kunnen worden gevonden, en dat is waar, maar die architectuur is gebaseerd op wat we 50 jaar geleden over de hersenen wisten.

Het alternatief voor DAI is om door te gaan met het itereren op monolithische, inflexibele architecturen die strak zijn gekoppeld aan een enkele beslissingsruimte, zoals die we zien in diepe leer- en versterkte leer-methoden (of elke begeleide leer-methode, voor dat matter). Ik zou suggereren dat deze beperkingen niet alleen een kwestie zijn van parameter-aanpassing of het toevoegen van lagen of gegevensconditionering – deze problemen zijn fundamenteel voor diepe leer- en versterkte leer-methoden, althans zoals we ze vandaag definiëren, dus zijn nieuwe benaderingen vereist als we verder willen innoveren en de AI van morgen willen bouwen.

Gelooft u dat het bereiken van AGI met DAI waarschijnlijker is dan versterkte leer- en diepe leer-methoden die momenteel door bedrijven zoals OpenAI en DeepMind worden nagestreefd?

Ja, hoewel ik vermoed dat OpenAI en DeepMind meer gedistribueerde architecturen gebruiken dan ze laten blijken. We beginnen meer te horen over multi-systeemuitdagingen zoals transfer learning of federated/distributed learning, en toevallig over hoe diepe leer- en versterkte leer-benaderingen niet zullen werken voor deze uitdagingen. We beginnen ook te horen van pioniers als Yoshua Bengio over hoe biologisch geïnspireerde architecturen de kloof kunnen overbruggen! Ik heb bijna 20 jaar gewerkt aan biologisch geïnspireerde AI, dus ik voel me heel goed over wat we hebben geleerd bij Quorum AI en hoe we het gebruiken om de volgende generatie AI te bouwen die deze beperkingen zal overwinnen.

Is er nog iets anders dat u zou willen delen over Quorum AI?

We zullen ons nieuwe platform voor gedistribueerde en agent-gebaseerde AI voorstellen op de Federated and Distributed Machine Learning Conference in juni 2020. Tijdens de presentatie zal ik enkele recente gegevens presenteren over verschillende onderwerpen, waaronder sentimentanalyse als een brug naar het bereiken van empathische AI.

Ik wil Noah bedanken voor deze geweldige antwoorden, en ik raad u aan om de Quorum te bezoeken om meer te leren.