Charles J. Simon, forfatter, Vil computere gøre oprør? – Interviewserie

Charles J. Simon, BSEE, MSCS, nationalt anerkendt iværksætter, softwareudvikler og manager. Med en bred ledelsesmæssig og teknisk ekspertise og grader i både elektroteknik og datalogi har Mr. Simon mange års computererfaring i industrien, herunder banebrydende arbejde inden for AI og CAD (to generationer af CAD).

Han er også forfatter til 'Will Computers Revolt', som giver et dybdegående indblik i de fremtidige muligheder for kunstig generel intelligens (AGI).

Hvad var det, der oprindeligt tiltrak dig til AI, og specifikt til AGI?

Jeg har været fascineret af spørgsmålet: "Kan maskiner tænke?" lige siden jeg første gang læste Alan Turings banebrydende papir fra 1950, som begynder med det spørgsmål. Indtil videre er svaret klart "Nej", men der er ingen videnskabelig grund til hvorfor. Jeg sluttede mig til AI-fællesskabet med det første neurale netværksboom i slutningen af ​​1980'erne, og siden da har AI gjort store fremskridt. Men de mellemliggende tredive år har ikke bragt forståelse til vores maskiner, en evne som ville bringe adskillige apps til nye niveauer af anvendelighed.

Du erklærede, at du deler muligheden for MIT AI-ekspert Rodney Brooks, der siger, "at uden interaktion med et miljø – uden en robotkrop som du vil – vil maskiner aldrig udvise AGI." Dette er grundlæggende at sige, at med utilstrækkelige input fra et robotlegeme, vil AI aldrig udvikle AGI-kapaciteter. Uden for computervision, hvilke typer input er nødvendige for at udvikle AGI?

Nutidens AI skal udvides med grundlæggende begreber som den fysiske eksistens af objekter i en virkelighed, tidens gang, årsag og virkning – begreber, der er klare for enhver tre-årig. Et lille barn bruger flere sanser til at lære disse begreber ved at røre ved og manipulere legetøj, bevæge sig gennem hjemmet, lære sprog osv. Selvom det er muligt at skabe en AGI med mere begrænsede sanser, ligesom der er døve og blinde mennesker, der er perfekt intelligent, men flere sanser og evner til at interagere gør det lettere at løse AGI-problemet.

For fuldstændighedens skyld kan min simulator give lugte- og smagssanser. Det er stadig uvist, om disse også vil vise sig at være vigtige for AGI.

Du sagde, at "Et nøglekrav til intelligens er et miljø, der er eksternt i forhold til intelligensen". Eksemplet du gav er, at 'det er urimeligt at forvente, at IBM's Watson "forstår" noget, hvis den ikke har nogen underliggende idé om, hvad en "ting" er'. Dette spiller klart ind i de nuværende begrænsninger af smal AI, især naturlig sprogbehandling. Hvordan kan AI-udviklere bedst overvinde denne nuværende begrænsning af AI?

En nøglefaktor er lagring af viden, som ikke er specifikt verbal, visuel eller taktil, men som abstrakte "ting", der kan have verbale, visuelle og taktile egenskaber. Overvej noget så simpelt som udtrykket "en rød kugle". Du ved, hvad disse ord betyder på grund af dine visuelle og taktile oplevelser. Du kender også betydningen af ​​relaterede handlinger som at kaste, hoppe, sparke osv., som alle kommer til at tænke på til en vis grad, når du hører sætningen. Ethvert AI-system, der er specifikt ordbaseret eller specifikt billedbaseret, vil gå glip af de andre forståelsesniveauer.

Jeg har implementeret en Universal Knowledge Store, som gemmer enhver form for information i en hjernelignende struktur, hvor ting er analoge med neuroner og har mange egenskabsreferencer til andre ting – referencer er analoge med synapser. Således er rød og kugle individuelle ting, og en rød kugle er en ting, der har attributreferencer til den røde ting og kugletingen. Både rød og kugle har referencer til de tilsvarende ting for ordene "rød" og "bold", som hver til gengæld har referencer til andre ting, som definerer, hvordan ordene høres, tales, læses eller staves samt mulig handling Ting.

Du har nået den konklusion, at hjernesimulering af generel intelligens er langt væk, mens AGI kan være (relativt) lige rundt om hjørnet. Baseret på dette udsagn, skal vi gå videre fra at forsøge at efterligne eller skabe en simulering af den menneskelige hjerne og blot fokusere på AGI?

Nutidens deep learning og relaterede teknologier er gode til passende applikationer, men vil ikke spontant føre til forståelse. For at tage de næste skridt er vi nødt til at tilføje teknikker, der er specifikt målrettet mod at løse de problemer, som er inden for enhver tre-årigs kapacitet.

At drage fordel af de iboende evner i vores computere kan være størrelsesordener mere effektivt end den biologiske ækvivalent eller enhver simulering af den. For eksempel kan din hjerne lagre information i biologiske synapsers kemi over flere iterationer, der kræver 10-100 millisekunder. En computer kan simpelthen gemme den nye synapseværdi i en enkelt hukommelsescyklus, en milliard gange hurtigere.

I udviklingen af ​​AGI-software har jeg lavet både biologisk neural simulering og mere effektive algoritmer. For at fortsætte med Universal Knowledge Store, når de simuleres i simulerede biologiske neuroner, kræver hver ting minimum 10 neuroner og normalt mange flere. Dette placerer den menneskelige hjernes kapacitet et sted mellem ti og hundrede millioner ting. Men måske ville en AGI virke intelligent, hvis den kun begriber én million ting – godt inden for rammerne af nutidens avancerede stationære computere.

En nøgle, der er ukendt, er, hvor meget af robottens tid der skal afsættes til at behandle og reagere på verden versus tid brugt på at forestille sig og planlægge. Kan du kort forklare betydningen af ​​fantasi for en AGI?

Vi kan forestille os mange ting og så kun handle på dem, vi kan lide, dem der fremmer vores interne mål, hvis du vil. Fantasiens virkelige kraft er at kunne forudsige fremtiden - en treårig kan finde ud af, hvilke bevægelsessekvenser der vil føre hende til et mål i et andet rum, og en voksen kan spekulere i, hvilke ord der vil have størst indflydelse på andre .

En AGI vil ligeledes have gavn af at gå ud over at være rent reaktiv til at spekulere i forskellige komplekse handlinger og vælge de bedste.

Du mener, at Asimovs tre love for robotteknologi er for enkle og tvetydige. I din bog delte du nogle ideer til anbefalede love, der skal programmeres i robotter. Hvilke love synes du er vigtigst for en robot at følge?

Nye "love for robotteknologi" vil udvikle sig over år, efterhånden som AGI dukker op. Jeg foreslår et par startere:

1. Maksimere intern viden og forståelse af miljøet.
2. Del denne viden præcist med andre (både AGI og mennesker).
3. Maksimer velvære for både AGI'er og mennesker som helhed - ikke kun som individ.

Du har nogle problemer med Turing-testen og konceptet bag den. Kan du forklare, hvordan du mener, at Turing-testen er fejlbehæftet?

Turing-testen har tjent os godt i halvtreds år som en ad hoc-definition af generel intelligens, men efterhånden som AGI nærmer sig, er vi nødt til at finpudse definitionen, og vi har brug for en klarere definition. Turing-testen er faktisk en test af, hvor menneskelig man er, ikke hvor intelligent man er. Jo længere en computer kan opretholde bedraget, jo bedre præsterer den på testen. Det er klart at stille spørgsmålet: "Er du en computer?" og relaterede proxy-spørgsmål såsom "Hvad er din yndlingsmad?" er døde giveaways, medmindre AGI'en er programmeret til at bedrage - i bedste fald et tvivlsomt mål.

Yderligere har Turing-testen motiveret AI-udvikling til områder af begrænset værdi med (for eksempel) chatbots med stor fleksibilitet i svar, men ingen underliggende forståelse.

Hvad ville du gøre anderledes i din version af Turing-testen?

Bedre spørgsmål kunne søge specifikt ind i forståelsen af ​​tid, rum, årsag-og-virkning, omtanke osv. snarere end tilfældige spørgsmål uden noget særligt grundlag inden for psykologi, neurovidenskab eller AI. Her er nogle eksempler:

1. Hvad ser du lige nu? Hvis du trådte tre fod tilbage, hvilke forskelle ville du så se?
2. Hvis jeg [handling], hvad ville din reaktion være?
3. hvis du [handling], hvad vil mine sandsynlige reaktioner være?
4. Kan du nævne tre ting, der ligner [objekt]?

Så i stedet for at evaluere svar med hensyn til, om de ikke kan skelnes fra menneskelige reaktioner, bør de evalueres i forhold til, om de er rimelige svar (intelligente) baseret på oplevelsen af ​​den enhed, der testes.

Du har udtalt, at når de står over for krav om at udføre nogle kortsigtede destruktive aktiviteter, vil korrekt programmerede AGI'er simpelthen nægte. Hvordan kan vi sikre, at AGI'en er korrekt programmeret til at begynde med?

Beslutningstagning er målbaseret. I kombination med en fantasi overvejer du (eller en AGI) resultatet af forskellige mulige handlinger og vælger den, der bedst opnår målene. Hos mennesker er vores mål sat af udviklede instinkter og vores erfaring; en AGIs mål er helt op til udviklerne. Vi er nødt til at sikre, at målene for en AGI stemmer overens med menneskehedens mål i modsætning til et individs personlige mål. [Tre mulige mål som angivet ovenfor.]

Du har udtalt, at det er uundgåeligt, at mennesker vil skabe en AGI, hvad er dit bedste skøn for en tidslinje?

Facetter af AGI vil begynde at dukke op inden for det kommende årti, men vi er ikke alle enige om, at AGI er ankommet. Til sidst vil vi blive enige om, at AGI er ankommet, når de overstiger de fleste menneskelige evner med en betydelig margin. Dette vil tage to eller tre årtier længere.

For alle taler om AGI vil det være ægte bevidsthed, som vi kender det?

Bevidsthed manifesterer sig i et sæt adfærd (som vi kan observere), som er baseret på en indre fornemmelse (som vi ikke kan observere). AGI'er vil manifestere adfærden; det skal de for at kunne træffe intelligente beslutninger. Men jeg hævder, at vores indre fornemmelse i høj grad afhænger af vores sensoriske hardware og instinkter, og derfor kan jeg garantere, at uanset hvilke indre fornemmelser en AGI måtte have, vil de være anderledes end et menneskes.

Det samme kan siges om følelser og vores følelse af fri vilje. Når man træffer beslutninger, gennemsyrer ens tro på fri vilje enhver beslutning, vi træffer. Hvis du ikke tror, ​​du har et valg, reagerer du simpelthen. For at en AGI kan træffe gennemtænkte beslutninger, skal den ligeledes være opmærksom på sin egen evne til at træffe beslutninger.

Sidste spørgsmål, tror du på, at en AGI har mere potentiale for godt eller dårligt?

Jeg er optimistisk over, at AGI'er vil hjælpe os med at komme videre som art og give os svar på mange spørgsmål om universet. Nøglen bliver for os at forberede og beslutte, hvad vores forhold vil være til AGI'er, når vi definerer deres mål. Hvis vi beslutter os for at bruge de første AGI'er som redskaber til erobring og berigelse, bør vi ikke blive overraskede, hvis de hen ad vejen bliver deres egne redskaber til erobring og berigelse mod os. Hvis vi vælger, at AGI'er er værktøjer til viden, udforskning og fred, så er det, hvad vi sandsynligvis vil få til gengæld. Valget er op til os.

Tak for et fantastisk interview, der udforsker det fremtidige potentiale ved at opbygge et AGI. Læsere, der ønsker at lære mere, kan læse 'Will Computers Revolt' eller besøge Charles' hjemmeside futureai.guru.