Charles J. Simon, Auteur, Will Computers Revolt? – Interview Series

Charles J. Simon, BSEE, MSCS, nationaal erkende ondernemer, software-ontwikkelaar en manager. Met een brede management- en technische expertise en diploma’s in zowel Elektrotechniek als Computerwetenschappen heeft de heer Simon vele jaren ervaring in de computerindustrie, waaronder baanbrekend werk in AI en CAD (twee generaties van CAD).

Hij is ook de auteur van ‘Will Computers Revolt’, dat een diepgaande kijk biedt op de toekomstige mogelijkheid van Artificial General Intelligence (AGI).

Wat was het dat je oorspronkelijk aantrok tot AI, en specifiek tot AGI?

Ik ben gefascineerd door de vraag “Kunnen machines denken?” sinds ik voor het eerst Alan Turings seminale paper uit 1950 las, die met die vraag begint. Tot nu toe is het antwoord duidelijk “Nee”, maar er is geen wetenschappelijke reden waarom niet. Ik sloot me aan bij de AI-gemeenschap met de eerste neural network-boom in de late jaren 80 en sindsdien heeft AI grote stappen gezet. Maar de tussenliggende dertig jaar hebben geen begrip gebracht aan onze machines, een vermogen dat vele apps naar nieuwe niveaus van bruikbaarheid zou katapulteren.

Je zei dat je de optie deelt van MIT AI-expert Rodney Brooks, die zegt: ‘zonder interactie met een omgeving – zonder een robotlichaam, zoals je wilt – zullen machines nooit AGI vertonen.’ Dit is eigenlijk het zeggen dat met onvoldoende inputs van een robotlichaam, de AI nooit AGI-mogelijkheden zal ontwikkelen. Buiten computerzicht, welke soorten inputs zijn nodig om AGI te ontwikkelen?

De AI van vandaag moet worden aangevuld met basisconcepten zoals de fysieke existentie van objecten in een realiteit, het verloop van tijd, oorzaak en gevolg – concepten die duidelijk zijn voor elk driejarig kind. Een peuter gebruikt meerdere zintuigen om deze concepten te leren door speelgoed aan te raken en te manipuleren, door het huis te bewegen, taal te leren, enz. Terwijl het mogelijk is om een AGI te creëren met beperktere zintuigen, net zoals er dove en blinde mensen zijn die perfect intelligent zijn maar meer zintuigen en mogelijkheden om te interacteren het AGI-probleem gemakkelijker maken.

Voor compleetheid kan mijn simulator zintuigen van reuk en smaak bieden. Het resteert om te zien of deze ook belangrijk zullen blijken te zijn voor AGI.

Je zei dat ‘een sleutelvereiste voor intelligentie is een omgeving die extern is aan de intelligentie’. Het voorbeeld dat je gaf is dat ‘het onredelijk is om te verwachten dat IBM’s Watson “begrijpt” iets als het geen onderliggende idee heeft van wat een “ding” is’. Dit speelt duidelijk in de huidige beperkingen van narrow AI, vooral natuurlijke taalverwerking. Hoe kunnen AI-ontwikkelaars deze huidige beperking van AI het beste overwinnen?

Een sleutelfactor is het opslaan van kennis die niet specifiek verbaal, visueel of tactiel is, maar als abstracte “Dingen” die verbaal, visueel en tactiel attributen kunnen hebben. Overweeg iets eenvoudigs als de zin “een rode bal”. Je weet wat deze woorden betekenen omdat van je visuele en tactiele ervaringen. Je weet ook de betekenis van gerelateerde acties zoals gooien, stuiteren, trappen, enz. die allemaal enigszins in je opkomen als je de zin hoort. Elk AI-systeem dat specifiek woord-gebaseerd of specifiek beeld-gebaseerd is, zal andere niveaus van begrip missen.

Ik heb een Universele Kennisopslag geïmplementeerd die elke soort informatie in een hersen-achtige structuur opslaat waar Dingen analoog zijn aan neuronen en hebben veel attribuutverwijzingen naar andere Dingen – verwijzingen zijn analoog aan synapsen. Dus rode en bal zijn individuele Dingen en een rode bal is een Ding dat attribuutverwijzingen heeft naar het rode Ding en het bal Ding. Beide rode en bal hebben verwijzingen naar de corresponderende Dingen voor de woorden “rood” en “bal”, die elk op hun beurt verwijzingen hebben naar andere Dingen die definiëren hoe de woorden worden gehoord, gesproken, gelezen of gespeld, evenals mogelijke actie-Dingen.

Je bent tot de conclusie gekomen dat hersensimulatie van algemene intelligentie ver weg is, terwijl AGI mogelijk (relatief) net om de hoek is. Gebaseerd op deze verklaring, zouden we moeten stoppen met het proberen te emuleren of simuleren van de menselijke hersenen en ons alleen focussen op AGI?

De huidige diepe leer- en gerelateerde technologieën zijn geweldig voor geschikte toepassingen, maar zullen niet spontaan leiden tot begrip. Om de volgende stappen te zetten, moeten we technieken toevoegen die specifiek gericht zijn op het oplossen van problemen die binnen het bereik van elk driejarig kind liggen.

Het benutten van de intrinsieke mogelijkheden van onze computers kan vele malen efficiënter zijn dan het biologische equivalent of elke simulatie ervan. Bijvoorbeeld, je hersenen kunnen informatie opslaan in de chemie van biologische synapsen over meerdere iteraties, wat 10-100 milliseconden vereist. Een computer kan eenvoudigweg de nieuwe synapsenwaarde in één geheugencyclus opslaan, een miljard keer sneller.

Bij het ontwikkelen van AGI-software, heb ik zowel biologische neurale simulatie als efficiëntere algoritmen gedaan. Door te gaan met de Universele Kennisopslag, wanneer gesimuleerd in gesimuleerde biologische neuronen, vereist elk Ding minstens 10 neuronen en meestal veel meer. Dit plaatst de capaciteit van de menselijke hersenen ergens tussen de tien en honderd miljoen Dingen. Maar misschien zou een AGI intelligent lijken als het slechts één miljoen Dingen begrijpt – goed binnen het bereik van vandaag’s high-end desktopcomputers.

Een belangrijke onbekende is hoeveel van de robot’s tijd moet worden toegewezen aan het verwerken en reageren op de wereld versus de tijd die wordt besteed aan het voorstellen en plannen. Kun je korte uitleg geven over het belang van verbeelding voor een AGI?

We kunnen ons veel dingen voorstellen en dan alleen handelen naar die waarvan we houden, die onze interne doelen verder helpen, als je wilt. De echte kracht van verbeelding is het kunnen voorspellen van de toekomst – een driejarig kind kan uitvinden welke sequenties van beweging het naar een doel in een andere kamer zullen leiden en een volwassene kan speculeren over welke woorden de grootste impact op anderen zullen hebben.

Een AGI zal eveneens profiteren van het gaan beyond puur reageren op het speculeren over verschillende complexe acties en het kiezen van de beste.

Je gelooft dat Asimov’s drie wetten van robotica te eenvoudig en dubbelzinnig zijn. In je boek deelde je enkele ideeën voor aanbevolen wetten die in robots moeten worden geprogrammeerd. Welke wetten vind je het meest belangrijk voor een robot om te volgen?

Nieuwe “wetten van robotica” zullen in de loop van de jaren evolueren naarmate AGI ontstaat. Ik stel een paar starters voor:

1. Maximaliseer interne kennis en begrip van de omgeving.
2. Deel die kennis nauwkeurig met anderen (zowel AGI als mens).
3. Maximaliseer het welzijn van zowel AGI’s als mensen als geheel – niet alleen als individu.

Je hebt enkele problemen met de Turing Test en het concept erachter. Kun je uitleggen hoe je denkt dat de Turing Test is gebrekkig?

De Turing Test heeft ons goed gediend als een ad-hocdefinitie van algemene intelligentie gedurende vijftig jaar, maar nu AGI nadert, hebben we een duidelijkere definitie nodig. De Turing Test is eigenlijk een test van hoe menselijk men is, niet hoe intelligent men is. Hoe langer een computer de illusie kan volhouden, hoe beter het presteert op de test. Het is duidelijk dat vragen stellen als “Ben je een computer?” en gerelateerde proxyvragen zoals “Wat is je favoriete voedsel?” zijn duidelijke weggevers, tenzij de AGI is geprogrammeerd om te bedriegen – een twijfelachtig doel op zijn best.

Verder heeft de Turing Test AI-ontwikkeling gemotiveerd in gebieden van beperkte waarde met (bijvoorbeeld) chatbots met grote flexibiliteit in antwoorden, maar zonder onderliggend begrip.

Wat zou je anders doen in jouw versie van de Turing Test?

Beter gestelde vragen zouden specifiek kunnen peilen naar het begrip van tijd, ruimte, oorzaak en gevolg, vooruitdenken, enz. in plaats van willekeurige vragen zonder enige bijzondere basis in psychologie, neurologie of AI. Hier zijn enkele voorbeelden:

1. Wat zie je nu? Als je drie voet terugstapte, welke verschillen zou je zien?
2. Als ik [actie] zou doen, wat zou jouw reactie zijn?
3. Als jij [actie] zou doen, wat zouden mijn waarschijnlijke reacties zijn?
4. Kun je drie dingen noemen die lijken op [object]?

Daarna zouden de antwoorden moeten worden beoordeeld op of ze redelijke antwoorden zijn (intelligent) op basis van de ervaring van de entiteit die wordt getest, in plaats van te beoordelen of ze ononderscheidbaar zijn van menselijke antwoorden.

Je hebt gesteld dat wanneer een AGI wordt geconfronteerd met eisen om een korte, destructieve activiteit uit te voeren, een goed geprogrammeerde AGI eenvoudigweg zal weigeren. Hoe kunnen we ervoor zorgen dat de AGI vanaf het begin goed is geprogrammeerd?

Besluitvorming is doel-gebaseerd. In combinatie met verbeelding, overweeg je (of een AGI) de uitkomst van verschillende mogelijke acties en kies je die welke het beste je doelen bereikt. Bij mensen worden onze doelen ingesteld door geëvolueerde instincten en onze ervaring; de doelen van een AGI zijn helemaal afhankelijk van de ontwikkelaars. We moeten ervoor zorgen dat de doelen van een AGI overeenkomen met de doelen van de mensheid, in plaats van de persoonlijke doelen van een individu. [Drie mogelijke doelen zoals hierboven vermeld.]

Je hebt gesteld dat het onvermijdelijk is dat mensen een AGI zullen creëren, wat is jouw beste schatting voor een tijdslijn?

Aspecten van AGI zullen in de komende decennium beginnen te verschijnen, maar we zullen het er niet allemaal over eens zijn dat AGI is aangekomen. Uiteindelijk zullen we het erover eens zijn dat AGI is aangekomen wanneer ze de meeste menselijke capaciteiten met een aanzienlijke marge overtreffen. Dit zal twee of drie decennia langer duren.

Voor alle gesprekken over AGI, zal het echte bewustzijn zijn zoals we het kennen?

Bewustzijn manifesteert zich in een reeks gedragingen (die we kunnen observeren) die zijn gebaseerd op een interne sensatie (die we niet kunnen observeren). AGI’s zullen dit gedrag vertonen; ze moeten dat doen om intelligente beslissingen te nemen. Maar ik beweer dat onze interne sensatie grotendeels afhankelijk is van onze zintuiglijke hardware en instincten, en dus kan ik garanderen dat welke interne sensaties een AGI ook maar heeft, ze zullen verschillen van die van een mens.

Hetzelfde kan worden gezegd over emoties en ons gevoel van vrije wil. Bij het nemen van beslissingen, doordringt ons geloof in vrije wil elke beslissing die we nemen. Als je niet gelooft dat je een keuze hebt, reageer je eenvoudigweg. Voor een AGI om doordachte beslissingen te nemen, moet het ook zich bewust zijn van zijn eigen vermogen om beslissingen te nemen.

Laatste vraag, geloof je dat een AGI meer potentieel heeft voor goed of slecht?

Ik ben optimistisch dat AGI’s ons zullen helpen om als soort vooruit te komen en antwoorden te geven op veel vragen over het universum. De sleutel zal zijn om ons voor te bereiden en te beslissen wat onze relatie zal zijn met AGI’s terwijl we hun doelen definiëren. Als we besluiten om de eerste AGI’s te gebruiken als instrumenten van verovering en verrijking, zouden we niet verbaasd moeten zijn als ze uiteindelijk hun eigen instrumenten van verovering en verrijking tegen ons worden. Als we ervoor kiezen dat AGI’s instrumenten van kennis, exploratie en vrede zijn, dan is dat waarschijnlijk wat we in return zullen krijgen. De keuze is aan ons.

Bedankt voor dit fantastische interview over de toekomstige mogelijkheden van het bouwen van een AGI. Voor lezers die meer willen leren, kunnen ze ‘Will Computers Revolt’ lezen of bezoek Charle’s website futureai.guru.