Charles J. Simon, Forfatter, Vil Computere Gøre Oprør? – Interviewsammenhæng

Charles J. Simon, BSEE, MSCS, landskendt iværksætter, softwareudvikler og leder. Med en bred ledelses- og teknisk ekspertise og uddannelser i både elektrisk ingeniørvidenskab og datalogi har hr. Simon mange års erfaring med computere i industrien, herunder pionerarbejde inden for kunstig intelligens og CAD (to generationer af CAD).

Han er også forfatter til ‘Vil Computere Gøre Oprør’, som giver en indgående beskrivelse af den fremtidige mulighed for kunstig almen intelligens (AGI).

Hvad var det, der oprindeligt tiltrak dig til kunstig intelligens, og specifikt til AGI?

Jeg har været fascineret af spørgsmålet, “Kan maskiner tænke?” lige siden jeg første gang læste Alan Turings grundlæggende artikel fra 1950, der begynder med dette spørgsmål. Indtil videre er svaret tydeligt, “Nej”, men der er ingen videnskabelig grund til, hvorfor ikke. Jeg sluttede mig til kunstig intelligens-samfundet under den første neurale netværksboom i slutningen af 1980’erne, og siden da har kunstig intelligens gjort store fremskridt. Men de mellemliggende tredive år har ikke ført til, at vores maskiner har fået forståelse, en evne, der ville kunne føre mange apps til nye niveauer af nyttighed.

Du har udtalt, at du deler MIT-kunstig intelligens-eksperten Rodney Brooks’ mening om, at “uden interaktion med en omverden – uden en robotkrop, som du vil – vil maskiner aldrig udvise AGI”. Dette er grundlæggende at sige, at med utilstrækkelige indgange fra en robotkrop, vil kunstig intelligens aldrig udvikle AGI-evner. Ud over computerseende, hvilke typer indgange er nødvendige for at udvikle AGI?

I dag har kunstig intelligens brug for at blive suppleret med grundlæggende begreber som den fysiske eksistens af objekter i en virkelighed, tidsforløb, årsag og virkning – begreber, der er klare for enhver tre-årig. En tre-årig bruger multiple sanser til at lære disse begreber ved at røre og manipulere legetøj, bevæge sig gennem hjemmet, lære sprog osv. Selv om det er muligt at skabe en AGI med mere begrænsede sanser, så som der er døve og blinde mennesker, der er fuldstændig intelligente, men mere sanser og evner til at interagere gør det lettere at løse AGI-problemet.

Til fuldstændighed kan min simulator give sanser af lugt og smag. Det er endnu ikke afgjort, om disse også vil vise sig at være vigtige for AGI.

Du har udtalt, at ‘En nøglekrævende faktor for intelligens er en omverden, der er ekstern i forhold til intelligensen’. Eksemplet du gav var, at ‘det er urimeligt at forvente, at IBM’s Watson “forstår” noget, hvis det ikke har nogen underliggende idé om, hvad en “ting” er’. Dette spiller tydeligt ind i de nuværende begrænsninger af snæver kunstig intelligens, især naturlig sprogbehandling. Hvordan kan kunstig intelligens-udviklere bedst overvinde denne nuværende begrænsning af kunstig intelligens?

En nøglefaktor er at gemme viden, der ikke specifikt er verbal, visuel eller taktil, men som abstrakte “ting”, der kan have verbale, visuelle og taktille attributter. Overvej noget så simpelt som udtrykket “en rød bold”. Du ved, hvad disse ord betyder, på grund af dine visuelle og taktille oplevelser. Du ved også betydningen af relaterede handlinger som kastning, hopning, sparkning osv., der alle kommer i tanke til en vis grad, når du hører udtrykket. Enhver kunstig intelligens-system, der specifikt er baseret på ord eller billeder, vil gå glip af de andre niveauer af forståelse.

Jeg har implementeret en universel videnlagring, der gemmer enhver form for information i en hjerne-lignende struktur, hvor ting er analoge til neuroner og har mange attribut-referencer til andre ting – referencer er analoge til synapser. Således er rød og bold individuelle ting, og en rød bold er en ting, der har attribut-referencer til den røde ting og bold-tingen. Begge rød og bold har referencer til de tilsvarende ting for ordene “rød” og “bold”, der hver især har referencer til andre ting, der definerer, hvordan ordene høres, tales, læses eller staves samt mulige handlinger.

Du er nået til konklusionen, at hjernsimulering af almen intelligens er langt væk, mens AGI måske (relativt) er lige om hjørnet. Baseret på denne udtalelse, skal vi gå videre fra at forsøge at efterligne eller skabe en simulering af den menneskelige hjerne og i stedet fokusere på AGI?

I dag er dyb læring og relaterede teknologier godt tilpasset tilpassede anvendelser, men vil ikke spontant føre til forståelse. For at tage de næste skridt har vi brug for at tilføje teknikker, der specifikt er rettet mod at løse de problemer, der er inden for kapaciteten af enhver tre-årig.

At tage udnyttelse af de intrinsicke evner i vores computere kan være mange gange mere effektivt end den biologiske ækvivalent eller nogen simulering af den. For eksempel kan din hjerne gemme information i kemien af biologiske synapser over flere iterationer, der kræver 10-100 millisekunder. En computer kan blot gemme den nye synapseværdi i en enkelt hukommelsescyklus, en milliard gange hurtigere.

I udviklingen af AGI-software har jeg både lavet biologisk neuralsimulering og mere effektive algoritmer. Ved at føre det universelle videnlager videre, når det simuleres i simulerede biologiske neuroner, kræver hver ting en minimum på 10 neuroner og ofte mange flere. Dette sætter kapaciteten af den menneskelige hjerne til at være mellem ti og hundred millioner ting. Men måske vil en AGI synes intelligent, hvis den forstår blot en million ting – godt inden for rækkevidde af i dagens high-end desktop-computere.

En nøgle-ubekendt er, hvor meget af robotternes tid, der skal allokeres til at behandle og reagere på verden versus tid, der bruges til at forestille sig og planlægge. Kan du kort forklare betydningen af forestilling for en AGI?

Vi kan forestille os mange ting og derefter kun handle på dem, vi kan lide, dem, der fremmer vores interne mål, hvis du vil. Den virkelige kraft af forestilling er at kunne forudsige fremtiden – en tre-årig kan regne ud, hvilke sekvenser af bevægelser, der vil føre hende til et mål i et andet rum, og en voksen kan spekulere over, hvilke ord, der vil have den største indvirkning på andre.

En AGI vil på samme måde have glæde af at gå ud over at være ren reaktiv til at spekulere over komplekse handlinger og vælge den bedste.

Du mener, at Asimovs tre love for robotter er for simple og tvetydige. I din bog delte du nogle ideer til anbefalede love, der skal programmeres i robotter. Hvilke love mener du er mest vigtige for en robot at følge?

New “love for robotter” vil udvikle sig over årene, når AGI opstår. Jeg foreslår nogle startpunkter:

1. Maximer indre viden og forståelse af omverdenen.
2. Del denne viden nøjagtigt med andre (både AGI og mennesker).
3. Maximer det godt for både AGI’er og mennesker som helhed – ikke kun som enkeltpersoner.

Du har nogle problemer med Turing-testen og konceptet bagved. Kan du forklare, hvordan du mener, Turing-testen er fejlbehæftet?

Turing-testen har tjent os godt i 50 år som en ad-hoc definition af almen intelligens, men da AGI nærmer sig, har vi brug for at finpudse definitionen, og vi har brug for en klarere definition. Turing-testen er faktisk en test af, hvor menneskelig man er, ikke hvor intelligent man er. Jo længere en computer kan opretholde bedraget, jo bedre klarer den sig på testen. Det er åbenlyst, at spørgsmål som “Er du en computer?” og relaterede proxy-spørgsmål som “Hvad er dit yndlingsmad?” er åbenlyse give-aways, medmindre AGI’en er programmeret til at bedrage – et tvivlsomt mål på bedste.

Desuden har Turing-testen motiveret udviklingen af kunstig intelligens i områder med begrænsede værdier med (for eksempel) chatbots med stor fleksibilitet i svar, men ingen underliggende forståelse.

Hvad ville du gøre anderledes i din version af Turing-testen?

Bedre spørgsmål kunne undersøge specifikt forståelsen af tid, rum, årsag og virkning, forudseenhed osv. i stedet for tilfældige spørgsmål uden nogen særlig grund i psykologi, neurovidenskab eller kunstig intelligens. Her er nogle eksempler:

1. Hvad ser du lige nu? Hvis du trådte tre fod tilbage, hvilke forskelle ville du se?
2. Hvis jeg [handling], hvilken reaktion ville du have?
3. Hvis du [handling], hvilken sandsynlig reaktion ville jeg have?
4. Kan du navngive tre ting, der er som [objekt]?

Derefter skal svarene ikke vurderes ud fra, om de er ulig human-responser, men ud fra, om de er rimelige responser (intelligente) baseret på erfaringen hos den enhed, der testes.

Du har udtalt, at når AGI’er konfronteres med krav om at udføre en kortvarig destruktiv aktivitet, vil korrekt programmerede AGI’er blot nægte. Hvordan kan vi sikre, at AGI’en er korrekt programmeret fra starten?

Beslutningstagning er mål-baseret. I kombination med en forestilling kan du (eller en AGI) overveje udfaldet af forskellige mulige handlinger og vælge den, der bedst opfylder målene. Hos mennesker er vores mål fastlagt af udviklede instinkter og vores erfaring; en AGI’s mål er helt op til udviklerne. Vi har brug for at sikre, at AGI’ens mål er i overensstemmelse med menneskehedens mål i stedet for enkeltpersoners personlige mål. [Tre mulige mål, som nævnt ovenfor.]

Du har udtalt, at det er uundgåeligt, at mennesker vil skabe en AGI, hvad er din bedste skøn over en tidsramme?

Aspekter af AGI vil begynde at opstå inden for den kommende årti, men vi vil ikke alle være enige om, at AGI er ankommet. Til sidst vil vi være enige om, at AGI er ankommet, når de overgår de fleste menneskelige evner med et betydeligt margin. Dette vil tage to eller tre årtier længere.

For alle diskussioner om AGI, vil det være rigtig bevidsthed, som vi kender det?

Bevidsthed manifestere sig i en række adfærd (som vi kan observere), der er baseret på en intern fornemmelse (som vi ikke kan observere). AGI’er vil manifestere adfærden; de har brug for det for at træffe intelligente beslutninger. Men jeg påstår, at vores intern fornemmelse i høj grad afhænger af vores sanser- hardware og instinkter, og så kan jeg garantere, at hvilke som helst intern fornemmelse en AGI måtte have, vil være forskellig fra en menneskelig.

Det samme kan siges om følelser og vores fornemmelse af fri vilje. I beslutningstagning gennemsyrer troen på fri vilje hver beslutning, vi tager. Hvis du ikke tror, du har et valg, reagerer du blot. For at en AGI kan træffe overvejede beslutninger har den også brug for at være bevidst om sin egen evne til at træffe beslutninger.

Sidste spørgsmål, tror du, at en AGI har mere potentiale for godt eller ondt?

Jeg er optimistisk om, at AGI’er vil hjælpe os med at gå fremad som en art og give os svar på mange spørgsmål om universet. Nøglen vil være for os at forberede os og bestemme, hvad vores forhold vil være til AGI’er, når vi definerer deres mål. Hvis vi vælger at bruge de første AGI’er som redskaber til erobring og berigelse, bør vi ikke være overraskede, hvis de senere bliver deres egne redskaber til erobring og berigelse imod os. Hvis vi vælger, at AGI’er er redskaber til viden, udforskning og fred, så er det, hvad vi sandsynligvis vil få tilbage. Valget er op til os.

Tak for et fantastisk interview om fremtidens potentiale for at bygge en AGI. For læsere, der ønsker at lære mere, kan de læse ‘Vil Computere Gøre Oprør’ eller besøge Charle’s hjemmeside futureai.guru.