Charles J. Simon, Forfatter, Vil Datamaskiner Revoltere? – Intervju-serie

Charles J. Simon, BSEE, MSCS, nasjonalt anerkjent entrepreneur, programvareutvikler og manager. Med en bred ledelses- og teknisk ekspertise og grader i både elektroingeniør og datavitenskap har herr Simon mange års datamaskin-erfaring i industrien, inkludert pionérarbeid i AI og CAD (to generasjoner av CAD).

Han er også forfatteren av ‘Vil Datamaskiner Revoltere’, som gir en dyptgående vurdering av den fremtidige muligheten for kunstig generell intelligens (AGI).

Hva var det som opprinnelig tiltalte deg til AI, og spesifikt til AGI?

Jeg har vært fascinert av spørsmålet, “Kan maskiner tenke?” siden jeg først leste Alan Turings seminale papir fra 1950 som begynner med dette spørsmålet. Så langt, er svaret tydelig “Nei”, men det finnes ingen vitenskapelig grunn til hvorfor ikke. Jeg sluttet meg til AI-samfunnet under den første neuralnetts-boomen på slutten av 1980-tallet, og siden da har AI gjort store fremskritt. Men de siste tretti årene har ikke ført til forståelse hos våre maskiner, en evne som ville kunne katapultere talløse applikasjoner til nye nivåer av nytte.

Du uttalte at du deler meningen til MIT AI-eksperten Rodney Brooks, som sier at ‘uten interaksjon med en omgivelse – uten en robotkropp, som du vil – vil maskiner aldri vise AGI.’ Dette er i hovedsak å si at med utilstrekkelige innputt fra en robotkropp, vil AI aldri utvikle AGI-egenskaper. Utenfor datavisjon, hva slags innputt er nødvendig for å utvikle AGI?

Dagens AI trenger å bli supplert med grunnleggende konsepter som den fysiske eksistensen av objekter i en realitet, tidspassering, årsak og virkning – konsepter som er klare for enhver treåring. En treåring bruker flere sanser til å lære disse konseptene ved å berøre og manipulere leker, bevege seg gjennom hjemmet, lære språk osv. Mens det er mulig å skape en AGI med mer begrensede sanser, slik som det finnes døve og blinde mennesker som er fullstendig intelligente, men flere sanser og evner til å interagere gjør det lettere å løse AGI-problemet.

For fullstendighet kan min simulator gi sanser av lukter og smaker. Det gjenstår å se om disse også vil vise seg å være viktige for AGI.

Du uttalte at ‘En nøkkelkrav for intelligens er en omgivelse som er ekstern til intelligensen’. Eksempelet du ga var at ‘det er urimelig å forvente at IBM’s Watson “forstår” noe om det ikke har noen underliggende idé om hva en “ting” er’. Dette spiller tydelig inn på de nåværende begrensningene i smal AI, spesielt naturlig språkbehandling. Hvordan kan AI-utviklere best overvinne denne nåværende begrensningen av AI?

En nøkelfaktor er å lagre kunnskap som ikke er spesifikt verbalt, visuelt eller taktilt, men som abstrakte “Ting” som kan ha verbale, visuelle og taktille attributter. Vurdér noe så enkelt som frasen “en rød ball”. Du vet hva disse ordene betyr fordi av dine visuelle og taktille erfaringer. Du vet også betydningen av relaterte handlinger som kasting, bouncende, sparkende osv., som alle kommer til tanker i noen grad når du hører frasen. Enhver AI-system som er spesifikt ord-basert eller spesifikt bilde-basert vil gå glipp av de andre nivåene av forståelse.

Jeg har implementert en Universal Knowledge Store som lagrer alle typer informasjon i en hjernelignende struktur hvor Ting er analoge til neuroner og har mange attributthentydninger til andre Ting – henvisninger er analoge til synapser. Derfor er rød og ball individuelle Ting, og en rød ball er et Ting som har attributthentydninger til det røde Ting og ball-Ting. Begge rød og ball har henvisninger til de tilsvarende Ting for ordene “rød” og “ball”, hver av dem har henvisninger til andre Ting som definerer hvordan ordene høres, uttales, leses eller staves, samt mulige handlinger Ting.

Du har kommet til konklusjonen at hjerne-simulering av generell intelligens er langt borte, mens AGI kan være (relativt) rett rundt hjørnet. Basert på denne uttalelsen, bør vi gå videre fra å forsøke å etterligne eller skape en simulering av menneskehjernen, og bare fokusere på AGI?

Dagens dyp læring og relaterte teknologier er gode for passende applikasjoner, men vil ikke spontant føre til forståelse. For å ta de neste stegene, trenger vi å legge til teknikkene som er spesifikt rettet mot å løse problemene som er innenfor kapasiteten til enhver treåring.

Å ta fordel av de innebygde evnene til våre datamaskiner kan være mange ganger mer effektivt enn det biologiske ekvivalent eller noen simulering av det. For eksempel kan din hjerne lagre informasjon i kjemien til biologiske synapser over flere iterasjoner som krever 10-100 millisekunder. En datamaskin kan enkelt lagre den nye synapse-verdien i en enkelt minne-syklus, en milliard ganger raskere.

I utvikling av AGI-programvare har jeg gjort både biologisk neuralsimulering og mer effektive algoritmer. Videre med Universal Knowledge Store, når simuleres i simulerende biologiske neuroner, krever hver Ting en minimum på 10 neuroner og vanligvis mange flere. Dette setter kapasiteten til det menneskelige hjernen til noen hvor mellom ti og hundre millioner Ting. Men kanskje en AGI vil se intelligent ut hvis den forstår bare en million Ting – godt innenfor rekkevidden av dagens høykvalitets datamaskiner.

En nøkkel-ukjent er hvor mye av robotens tid som bør allokeres til å prosessere og reagere på verden versus tid brukt på å forestille seg og planlegge. Kan du kort forklare betydningen av forestilling til en AGI?

Vi kan forestille oss mange ting og så bare handle på de vi liker, de som fremmer våre interne mål, hvis du vil. Den virkelige kraften til forestilling er å kunne forutsi fremtiden – en treåring kan finne ut hvilke sekvenser av bevegelser som vil føre henne til et mål i et annet rom, og en voksen kan spekulere på hvilke ord som vil ha størst innvirkning på andre.

En AGI liknar vil også dra nytte av å gå beyond å være ren reaktiv til å spekulere på ulike komplekse handlinger og velge den beste.

Du tror at Asimovs tre lover for roboter er for enkle og tvetydige. I din bok delte du noen ideer for anbefalte lover som skal programmeres i roboter. Hvilke lover føler du er mest viktige for en robot å følge?

Nye “lover for roboter” vil utvikle seg over årene mens AGI oppstår. Jeg foreslår noen startere:

1. Maximér indre kunnskap og forståelse av omgivelsen.
2. Del denne kunnskapen nøyaktig med andre (både AGI og menneske).
3. Maximér velværen til både AGIer og mennesker som helhet – ikke bare som enkeltpersoner.

Du har noen problemer med Turing-testen og konseptet bak det. Kan du forklare hvordan du mener Turing-testen er feil?

Turing-testen har tjent oss godt i femti år som en ad-hoc-definisjon av generell intelligens, men mens AGI nærmer seg, trenger vi å finjustere definisjonen og vi trenger en klarere definisjon. Turing-testen er faktisk en test på hvor menneskelig en er, ikke hvor intelligent en er. Jo lenger en datamaskin kan opprettholde bedraget, jo bedre utfører den på testen. Å spørre spørsmålet “Er du en datamaskin?” og relaterte proxy-spørsmål som “Hva er din favorittmat?” er åpenbare avsløringer med mindre AGI er programmert til å bedra – et tvilsomt mål på beste.

Videre har Turing-testen motivert AI-utvikling inn i områder med begrenset verdi med (for eksempel) chatboter med stor fleksibilitet i svar, men ingen underliggende forståelse.

Hva ville du gjøre annerledes i din versjon av Turing-testen?

Bedre spørsmål kunne undersøke spesifikt inn i forståelsen av tid, rom, årsak og virkning, forutsikt osv. i stedet for tilfeldige spørsmål uten noen spesiell basis i psykologi, nevovitenskap eller AI. Her er noen eksempler:

1. Hva ser du nå? Hvis du går tilbake tre fot, hva forskjeller vil du se?
2. Hvis jeg [handling], hva vil din reaksjon være?
3. Hvis du [handling], hva vil mine sannsynlige reaksjoner være?
4. Kan du navngi tre ting som er lik [objekt]?

Deretter, i stedet for å vurdere svarene på om de er uhåndgripelige fra menneskelige svar, bør de vurdere på om de er rimelige svar (intelligente) basert på erfaringen til enheten som testes.

Du har uttalt at når de møter krav om å utføre noen kortvarige destruktive aktiviteter, vil riktig programmerte AGIer bare nekte. Hvordan kan vi sikre at AGI er riktig programmert fra begynnelsen av?

Beslutningstaking er mål-basert. I kombinasjon med en forestilling, kan du (eller en AGI) vurdere utfallet av ulike mulige handlinger og velge den som best oppfyller målene. Hos mennesker er våre mål satt av evolusjonære instinkter og vår erfaring; et AGIs mål er fullstendig opp til utviklerne. Vi må sikre at målene til en AGI er i samsvar med målene til menneskeheten, i stedet for de personlige målene til en enkelt. [Tre mulige mål som nevnt ovenfor.]

Du har uttalt at det er uunngåelig at mennesker vil skape en AGI, hva er din beste anslag for en tidsramme?

Fasetter av AGI vil begynne å dukke opp innen den kommende tiåret, men vi vil ikke alle være enige om at AGI har ankommet. Til slutt vil vi være enige om at AGI har ankommet når de overstiger de fleste menneskelige evner med en betydelig margin. Dette vil ta to eller tre tiår lengre.

For alle snakk om AGI, vil det være virkelig bevissthet som vi kjenner det?

Bevissthet manifesterer seg i en rekke atferd (som vi kan observere) som er basert på en indre sansning (som vi ikke kan observere). AGIer vil manifestere atferden; de må gjøre det for å kunne ta intelligente beslutninger. Men jeg hevder at vår indre sansning er i stor grad avhengig av våre sanser og instinkter, og så kan jeg garantere at hva som helst indre sansning en AGI måtte ha, vil være forskjellig fra en menneskelig.

Det samme kan sies om følelser og vår sans av fri vilje. I å ta beslutninger, gjennomtrenger en tro på fri vilje hver beslutning vi tar. Hvis du ikke tror du har et valg, reagerer du bare. For en AGI å kunne ta intelligente beslutninger, må den også være klar over sin egen evne til å ta beslutninger.

Siste spørsmål, tror du at en AGI har mer potensiale for godt eller dårlig?

Jeg er optimistisk om at AGIer vil hjelpe oss til å gå videre som en art og bringe oss svar på mange spørsmål om universet. Nøkkelen vil være for oss å forberede og bestemme hva vår relasjon vil være med AGIer når vi definerer deres mål. Hvis vi bestemmer oss for å bruke de første AGIer som redskaper for erobring og beriking, bør vi ikke være overrasket hvis de til slutt blir deres egne redskaper for erobring og beriking mot oss. Hvis vi velger at AGIer er redskaper for kunnskap, utforskning og fred, da er det sannsynligvis hva vi kommer til å få i retur. Valget er opp til oss.

Takk for et fantastisk intervju som utforsker den fremtidige potensialet for å bygge en AGI. For lesere som ønsker å lære mer, kan de lese ‘Vil Datamaskiner Revoltere’ eller besøke Charle’s nettsted futureai.guru.