Waarom Industry 5.0 Artificial General Intelligence nodig heeft

Door: Bas Steunebrink, medeoprichter en directeur van Artificial General Intelligence, Eric Nivel, Lead AGI Engineer & Jerry Swan, Research Scientist at NNAISENSE.

We nemen automatisering in onze moderne wereld voor lief, en profiteren elke dag van supply chains die de hele wereld omvatten en een enorme selectie aan goederen op onze planken brengen. Maar achter de schermen genereren de productie en verplaatsing van goederen veel optimalisatie-uitdagingen, zoals verpakking, planning, routing en automatisering van productielijnen. Deze optimalisatie-uitdagingen zijn dynamisch en veranderen constant in tandem met de echte wereld. Bijvoorbeeld, verwachte supply routes kunnen plotseling worden onderbroken vanwege onvoorziene omstandigheden – bijvoorbeeld, het Suezkanaal kan worden geblokkeerd; luchtroutes kunnen veranderen vanwege vulkaanuitbarstingen; hele landen kunnen ontoegankelijk zijn vanwege conflicten. Veranderingen in wetgeving, valuta-inzinkingen en schaarse middelen zijn ook voorbeelden van supply-side variabelen die constant in beweging zijn.

Om een ander voorbeeld te geven, moet soms een nieuw onderdeel worden geïntegreerd in een machine of workflow (gebruikers kunnen bijvoorbeeld andere materialen of kleuren willen). Momenteel is deskundige menselijke arbeid nodig om veranderingen aan te brengen in het systeem, of – in het geval van machine learning – om het systeem opnieuw te trainen en in te zetten. Op een soortgelijke manier zijn de “digitale tweelingen” van Industry 4.0 nog steeds sterk afhankelijk van de notie dat de probleembeschrijving en de verdeling van invoer kunnen worden gespecificeerd eenmalig bij het ontwerp van het systeem.

De recente pandemie benadrukt de kwetsbaarheid van “just-in-time” supply chain-planning. Het wordt duidelijker dat de industrie in een steeds complexere en onzekerere wereld niet langer zo inflexibel kan zijn. Op dit moment moet de productie een vaste keuze maken tussen “Low-Mix High-Volume” (LMHV) en “High-Mix Low-Volume” (HMLV). Industry 5.0 voorziet de mogelijkheid van “High-Mix High-Volume” (HMHV), waarbij de workflow tegen lage kosten kan worden geconfigureerd om aan veranderende eisen te voldoen. Om dit te bereiken, is het nodig om “automatisering van automatisering” te realiseren, om de noodzaak voor menselijke interventie en/of systeemuitval te elimineren wanneer het probleem of de omgeving verandert. Dit vereist systemen die “op commando” werken, die reageren op dergelijke veranderingen, terwijl ze nog steeds een redelijke kans hebben om hun toegewezen taken binnen de tijdslimieten van de echte wereld te voltooien. Overweeg bijvoorbeeld het geval van een assemblagelijnrobot die momenteel taak X uitvoert, en die als volgt wordt geïnstrueerd:

“Stop onmiddellijk met het assembleren van X: hier is een specificatie van Y, en hier zijn de meeste van uw oude en een paar nieuwe effectoren. Begin nu met het assembleren van Y, waarbij u bepaalde soorten defecten en verspilling vermijdt.”

Ondanks de wijdverspreide recente discussie over de aanstaande komst van “Artificial General Intelligence” (AGI) via zogenaamde Large Language Models zoals GPT-3, is geen van de voorgestelde benaderingen echt in staat om “op commando” te werken. Dat wil zeggen, ze kunnen niet worden opgedragen om iets te doen dat volledig buiten hun trainingsset valt zonder de downtime van offline herbewerking, verificatie en herinzet.

Het is zeker duidelijk dat elk realistisch concept van intelligentie onlosmakelijk verbonden is met responsiviteit voor verandering. Een systeem dat onveranderd blijft – ongeacht hoeveel onverwachte gebeurtenissen het wordt blootgesteld – is noch autonoom noch intelligent. Dit wil niet zeggen dat de ongetwijfeld sterke kanten van dergelijke diepe leerbenaderingen (DL) moeten worden afgezwakt, die veel succes hebben gehad als middel om programma’s te synthetiseren voor problemen die moeilijk expliciet te specificeren zijn.

Wat voor soort systeemfunctionaliteit zou in staat zijn om AI te laten evolueren van een “train, freeze en deploy”-paradigma naar een dat in staat is om ononderbroken adaptief te leren? Overweeg de noodzaak om een defect onderdeel in een productieworkflow te vervangen door een onderdeel van een andere leverancier, dat mogelijk andere toleranties heeft. Met de eind-tot-eind black box-modellering van hedendaagse AI, moet het digitale tweelingproces opnieuw worden gedaan. Om de beperkingen van hedendaagse benaderingen aan te pakken, is een radicale verandering nodig: een model dat direct kan redeneren over de gevolgen van een onderdeelwijziging – en meer in het algemeen over counterfactual “wat als”-scenario’s. Het decomponeren van een workflow in onderdelen met bekende eigenschappen en het opnieuw combineren ervan als nodig is, vereist wat bekend staat als “compositionality”.

Compositionality is tot nu toe aan hedendaagse AI ontsnapt, waar het vaak wordt verward met het zwakkere concept van modulariteit. Modulariteit houdt zich bezig met de mogelijkheid om onderdelen samen te voegen, maar dit vangt niet de essentie van compositionality, die de mogelijkheid is om te redeneren over het gedrag van de resulterende workflow om een gewenste eigenschap te behouden. Deze mogelijkheid is essentieel voor redenen van verificatie en veiligheid: bijvoorbeeld, de mogelijkheid van het systeem om te redeneren dat “het aannemen van een motor van een alternatieve fabrikant de totale stroomuitvoer van de fabriek zal verhogen, terwijl alle andere onderdelen binnen de temperatuurgrenzen blijven”.

Hoewel hedendaagse neurale netwerkbenaderingen uitstekend zijn in het leren van regels uit data, ontbreekt het hen aan compositionele redenering. Als alternatief voor de hoop dat compositionele redenering zal ontstaan uit neurale netwerkarchitecturen, is het mogelijk om direct gebruik te maken van de constructies van categorietheorie, de wiskundige studie van compositionality. In het bijzonder is de subdiscipline categorische cybernetica bezig met bidirectionele controllers als fundamentele representatie-elementen. Bidirectionality is de mogelijkheid om zowel voorwaartse als inverse inferentie uit te voeren: voorspellingen maken van oorzaken tot gevolgen en vice versa. Compositionele inverse inferentie is vooral belangrijk omdat het de incorporatie van feedback van de omgeving op elke schaal van structurele representatie mogelijk maakt – dit faciliteert snel leren van een klein aantal voorbeelden.

Gegeven een gewenst systeemgedrag, is de leertaak dan om een geaggregeerde controlestructuur te bouwen die hieraan voldoet. Aanvankelijk geleerde structuren fungeren als een skelet voor latere leerprocessen.

Naarmate het systeem meer kennis vergaart, kan dit skelet worden versierd met geleerde compositionele eigenschappen, vergelijkbaar met hoe een H2O-molecuul kan worden bepaald om andere eigenschappen te hebben dan die van zijn constituerende atomen. Bovendien, net zoals “een bal gooien” en “een tennisracket zwaaien” kunnen worden gezien als verwante musculoskeletale acties voor een mens, kunnen verwante taken een skeletachtige controllerstructuur delen die op een taak-specifieke manier wordt versierd via feedback van de omgeving. Deze ontkoppeling van causale structuur van taak-specifieke aspecten kan leren van nieuwe taken zonder de catastrofale vergetelheid die hedendaagse benaderingen teistert. Daarom kan een hybride numeriek-symbolische benadering van de bovengenoemde vorm de sterke kanten van zowel neurale als symbolische benaderingen combineren, door zowel een expliciete notie van structuur als de mogelijkheid om adaptief te leren hoe eigenschappen worden samengesteld. Redeneren over compositionele eigenschappen wordt op een voortdurende basis gefundeerd door het werk dat het systeem momenteel wordt opgedragen uit te voeren.

In conclusie, is het duidelijk dat een nieuwe benadering nodig is om echt autonome systemen te creëren: systemen die in staat zijn om significante veranderingen te accommoderen en/of te functioneren in onbekende omgevingen. Dit vereist ononderbroken adaptief leren en generaliseren van wat al bekend is. Ondanks hun naam, hebben diepe leerbenaderingen slechts een oppervlakkige representatie van de wereld die niet op een hoog niveau kan worden gemanipuleerd door het leerproces. In tegenstelling tot wat wij voorstellen, zullen de AGI-systemen die in de volgende generatie ontstaan, diepe leren binnen een bredere architectuur integreren, die is uitgerust met de mogelijkheid om direct te redeneren over wat ze weten.

De mogelijkheid voor een systeem om symbolisch te redeneren over zijn eigen representatie verleent significante voordelen voor de industrie: met een expliciet compositionele representatie, kan het systeem worden geaudit – ofwel door mensen of intern door het systeem zelf – om vitale vereisten van veiligheid en eerlijkheid te vervullen. Terwijl er veel academische bezorgdheid is over het zogenaamde x-risk van AGI, is de passende focus eerder het concrete ingenieursprobleem van het opnieuw inzetten van een controle systeem terwijl vitale vereisten worden behouden, een proces dat wij “interactieve alignering” noemen. Het is alleen door de adoptie van dit soort controle systemen, die betrouwbaar en efficiënt zijn en continue leren, dat we in staat zullen zijn om de volgende generatie van autonomie te realiseren zoals voorzien door Industry 5.0.