Charles J. Simon, Författare, Kommer Datorer Att Göra Uppror? – Intervjuserie

Charles J. Simon, BSEE, MSCS, nationellt erkänd entreprenör, programvaruutvecklare och chef. Med en bred lednings- och teknisk expertis och examen i både elektroteknik och datavetenskap har herr Simon många års datorerfarenhet inom industrin, inklusive banbrytande arbete inom AI och CAD (två generationer av CAD).

Han är också författare till “Kommer Datorer Att Göra Uppror”, som ger en ingående bild av den framtida möjligheten av Artificiell Allmän Intelligens (AGI).

Vad var det som ursprungligen drog dig till AI, och specifikt till AGI?

Jag har varit fascinerad av frågan “Kan maskiner tänka?” sedan jag första gången läste Alan Turings banbrytande artikel från 1950 som börjar med den frågan. Hittills är svaret tydligt “Nej”, men det finns ingen vetenskaplig anledning till varför inte. Jag gick med i AI-samhället under den första neurala nätverksboomen i slutet av 1980-talet och sedan dess har AI gjort stora framsteg. Men de senaste trettio åren har inte gett oss förståelse för våra maskiner, en förmåga som skulle kunna kasta många applikationer till nya nivåer av användbarhet.

Du sa att du delar MIT AI-experten Rodney Brooks åsikt, som säger att “utan interaktion med en miljö – utan en robotkropp, så som du vill – kommer maskiner aldrig att visa AGI.” Detta är i princip detsamma som att säga att med otillräckliga indata från en robotkropp kommer AI aldrig att utveckla AGI-förmågor. Utanför datorseende, vilka typer av indata behövs för att utveckla AGI?

Idag behöver AI kompletteras med grundläggande begrepp som den fysiska existensen av föremål i verkligheten, tidens gång, orsak och verkan – begrepp som är tydliga för varje treåring. En treåring använder flera sinnen för att lära sig dessa begrepp genom att röra och manipulera leksaker, flytta genom hemmet, lära sig språk etc. Medan det är möjligt att skapa en AGI med mer begränsade sinnen, precis som det finns döva och blinda människor som är fullständigt intelligenta men mer sinnen och förmågor att interagera gör det lättare att lösa AGI-problemet.

För fullständighet kan min simulator tillhandahålla sinnen som lukter och smaker. Det återstår att se om dessa också kommer att visa sig vara viktiga för AGI.

Du sa att “En nyckelkrav för intelligens är en miljö som är extern till intelligensen”. Exemplet du gav var att “det är orealistiskt att förvänta sig att IBM:s Watson ska ‘förstå’ någonting om den inte har någon underliggande idé om vad en ‘sak’ är”. Detta spelar tydligt in i de nuvarande begränsningarna för smal AI, särskilt naturligt språkbehandling. Hur kan AI-utvecklare bäst övervinna denna nuvarande begränsning av AI?

En viktig faktor är att lagra kunskap som inte är specifikt verbalt, visuellt eller taktilt, utan som abstrakta “saker” som kan ha verbala, visuella och taktila attribut. Tänk på något så enkelt som frasen “en röd boll”. Du vet vad dessa ord betyder på grund av din visuella och taktila erfarenhet. Du vet också meningen med relaterade handlingar som att kasta, studsa, sparka etc. som alla kommer till tanken i viss mån när du hör frasen. Alla AI-system som är specifikt ord-baserade eller specifikt bild-baserade kommer att missa de andra nivåerna av förståelse.

Jag har implementerat en universell kunskapsbutik som lagrar all sorts information i en hjärnliknande struktur där “saker” är analogiska med neuroner och har många attributreferenser till andra “saker” – referenser är analogiska med synapser. Således är röd och boll enskilda “saker” och en röd boll är en “sak” som har attributreferenser till den röda “saken” och boll “saken”. Både röd och boll har referenser till de motsvarande “sakerna” för orden “röd” och “boll”, som i sin tur har referenser till andra “saker” som definierar hur orden hörs, uttalas, läses eller stavar samt möjliga handlingar “saker”.

Du har kommit till slutsatsen att hjärnsimulering av allmän intelligens är långt borta, medan AGI kan vara (relativt) precis runt hörnet. Baserat på detta uttalande, borde vi gå vidare från att försöka emulera eller skapa en simulering av den mänskliga hjärnan och bara fokusera på AGI?

Idag är djupinlärning och relaterad teknik bra för lämpliga applikationer, men kommer inte att spontant leda till förståelse. För att ta nästa steg behöver vi lägga till tekniker som specifikt riktar sig mot att lösa de problem som ligger inom kapaciteten för vilken som helst treåring.

Att ta tillvara på de intrinsikala förmågorna hos våra datorer kan vara flera storleksordningar mer effektivt än den biologiska ekvivalenten eller någon simulering av den. Till exempel kan din hjärna lagra information i den kemiska sammansättningen av biologiska synapser över flera iterationer som kräver 10-100 millisekunder. En dator kan enkelt lagra det nya synapsvärdet i en enda minnescykel, en miljard gånger snabbare.

I utvecklingen av AGI-programvara har jag gjort både biologisk neural simulering och mer effektiva algoritmer. Att fortsätta med den universella kunskapsbutiken, när den simuleras i simulerade biologiska neuroner, kräver varje “sak” en minimum av 10 neuroner och vanligtvis många fler. Detta sätter kapaciteten för den mänskliga hjärnan någonstans mellan tio och hundra miljoner “saker”. Men kanske skulle en AGI verka intelligent om den förstår bara en miljon “saker” – väl inom ramen för dagens högpresterande skrivbordssystem.

En viktig okänd faktor är hur mycket av robotens tid som bör allokeras till att bearbeta och reagera på världen jämfört med tid som spenderas på att föreställa sig och planera. Kan du kort förklara vikten av fantasi för en AGI?

Vi kan föreställa oss många saker och sedan bara agera på de som vi gillar, de som främjar våra interna mål, om du vill. Den verkliga kraften i fantasi är att kunna förutsäga framtiden – en treåring kan lista ut vilka sekvenser av rörelser som leder henne till ett mål i ett annat rum och en vuxen kan spekulera om vilka ord som kommer att ha störst inverkan på andra.

En AGI kommer likaså att dra nytta av att gå utöver att vara rent reaktiv till att spekulera om olika komplexa handlingar och välja den bästa.

Du tror att Asimovs tre robotlagar är för enkla och tvetydiga. I din bok delade du några idéer för rekommenderade lagar som ska programmeras i robotar. Vilka lagar tycker du är viktigast för en robot att följa?

Nya “robotlagar” kommer att utvecklas under åren allteftersom AGI uppkommer. Jag föreslår några startpunkter:

1. Maximera intern kunskap och förståelse för miljön.
2. Delar den kunskapen korrekt med andra (både AGI och människor).
3. Maximera välbefinnandet för både AGI och människor som helhet – inte bara som en individ.

Du har några problem med Turingtestet och konceptet bakom det. Kan du förklara hur du tycker att Turingtestet är felaktigt?

Turingtestet har tjänat oss väl under femtio år som en ad-hoc-definition av allmän intelligens, men när AGI närmar sig behöver vi finslipa definitionen och vi behöver en tydligare definition. Turingtestet är faktiskt ett test på hur mänsklig man är, inte hur intelligent man är. Ju längre en dator kan upprätthålla bedrägeriet, desto bättre presterar den på testet. Det är uppenbart att frågan “Är du en dator?” och relaterade proxyfrågor som “Vad är din favoritmat?” är dödsgivande om AGI inte är programmerad att bedra – ett tvivelaktigt mål i bästa fall.

Dessutom har Turingtestet motiverat AI-utveckling till områden med begränsat värde med (till exempel) chattrobotar med stor flexibilitet i svar men utan underliggande förståelse.

Vad skulle du göra annorlunda i din version av Turingtestet?

Bättre frågor kunde undersöka specifikt förståelsen av tid, rum, orsak och verkan, förutseende etc. snarare än slumpmässiga frågor utan någon särskild grund i psykologi, neurovetenskap eller AI. Här är några exempel:

1. Vad ser du just nu? Om du backade tre fot, vad skulle du se?
2. Om jag [handling], vad skulle din reaktion vara?
3. Om du [handling], vad skulle min troliga reaktion vara?
4. Kan du namnge tre saker som är som [objekt]?

Sedan, snarare än att utvärdera svar som om de vore otillräckliga från mänskliga svar, bör de utvärderas utifrån om de är rimliga svar (intelligenta) baserat på den erfarenhet som enheten som testas har.

Du sa att när en AGI ställs inför krav på att utföra en kortvarig destruktiv aktivitet, kommer en korrekt programmerad AGI att vägra. Hur kan vi säkerställa att AGI är korrekt programmerad från början?

Beslutsfattande är mål-baserat. I kombination med en fantasi, så kan du (eller en AGI) överväga resultatet av olika möjliga handlingar och välja den som bäst uppnår målen. Hos människor är våra mål inställda av evolutionära instinkter och vår erfarenhet; en AGI:s mål är helt upp till utvecklarna. Vi behöver säkerställa att målen för en AGI överensstämmer med målen för mänskligheten, snarare än de personliga målen för en individ. [Tre möjliga mål som nämns ovan.]

Du sa att det är oundvikligt att människor kommer att skapa en AGI, vad är din bästa uppskattning för en tidsplan?

Aspekter av AGI kommer att börja dyka upp inom det kommande decenniet, men vi kommer inte alla att vara överens om att AGI har anlänt. Till slut kommer vi att vara överens om att AGI har anlänt när de överträffar de flesta mänskliga förmågor med en betydande marginal. Detta kommer att ta två eller tre decennier längre.

För all diskussion om AGI, kommer det att vara verklig medvetenhet som vi känner till den?

Medvetenhet manifesterar sig i en uppsättning beteenden (som vi kan observera) som baseras på en intern känsla (som vi inte kan observera). AGI kommer att manifestera beteenden; de behöver göra det för att fatta intelligenta beslut. Men jag hävdar att vår interna känsla till stor del är beroende av vår sensoriska hårdvara och instinkter, och så kan jag garantera att vilka interna känslor en AGI kan ha, kommer att skilja sig från en människas.

Detsamma kan sägas om känslor och vår känsla av fri vilja. När vi fattar beslut, genomsyrar vår tro på fri vilja varje beslut vi fattar. Om du inte tror att du har ett val, så reagerar du bara. För att en AGI ska fatta genomtänkta beslut, behöver den också vara medveten om sin egen förmåga att fatta beslut.

Sista frågan, tror du att en AGI har mer potential för gott eller ont?

Jag är optimistisk att AGI kommer att hjälpa oss att gå framåt som art och ge oss svar på många frågor om universum. Nyckeln kommer att vara för oss att förbereda och bestämma vad vår relation kommer att vara med AGI när vi definierar deras mål. Om vi bestämmer oss för att använda de första AGI som verktyg för erövring och berikning, borde vi inte vara förvånade om de så småningom blir sina egna verktyg för erövring och berikning mot oss. Om vi väljer att AGI är verktyg för kunskap, utforskning och fred, då är det troligt att vi kommer att få det i retur. Valet är upp till oss.

Tack för en fantastisk intervju som utforskar den framtida potentialen för att bygga en AGI. För läsare som vill lära sig mer kan de läsa “Kommer Datorer Att Göra Uppror” eller besöka Charle’s webbplats futureai.guru.