Charles J. Simon, forfatter, Vil datamaskiner gjøre opprør? – Intervju-serie

Charles J. Simon, BSEE, MSCS, nasjonalt anerkjent entrepreneur, programvareutvikler og leder. Med en bred ledelses- og teknisk ekspertise og eksamen i både elektroingeniør og datavitenskap har herr Simon mange års erfaring med datamaskiner i industrien, inkludert pionerarbeid i kunstig intelligens og CAD (to generasjoner av CAD).

Han er også forfatteren av ‘Vil datamaskiner gjøre opprør’, som gir en dyptgående oversikt over den fremtidige muligheten for kunstig generell intelligens (AGI).

Hva var det som opprinnelig tiltalte deg til kunstig intelligens, og spesielt til AGI?

Jeg har vært fascinert av spørsmålet “Kan maskiner tenke?” siden jeg første gang leste Alan Turings banebrytende artikkel fra 1950 som starter med dette spørsmålet. Så langt er svaret klart “Nei”, men det finnes ingen vitenskapelig grunn til at det ikke skal være mulig. Jeg ble med i kunstig intelligens-samfunnet under den første bølgen av neurale nettverk på slutten av 1980-tallet, og siden da har kunstig intelligens gjort store fremskritt. Men de siste tretti årene har ikke ført til at våre maskiner har fått forståelse, en evne som ville kunne føre mange applikasjoner til nye nivåer av nytte.

Du sa at du deler meningen til MITs kunstig intelligens-ekspert Rodney Brooks, som sier at ‘uten interaksjon med en omgivelse – uten en robotkropp, som du vil – vil maskiner aldri vise AGI.’ Dette er i hovedsak å si at uten tilstrekkelig innputt fra en robotkropp, vil kunstig intelligens aldri utvikle AGI-egenskaper. Utenfor datavisjon, hva slags innputt er nødvendig for å utvikle AGI?

Dagens kunstig intelligens må suppleres med grunnleggende begreper som den fysiske eksistensen av objekter i en realitet, tidspass, årsak og virkning – begreper som er klare for enhver treåring. En treåring bruker multiple sanser til å lære disse begrepene ved å berøre og manipulere leker, bevege seg gjennom hjemmet, lære språk osv. Mens det er mulig å skape en AGI med mer begrensede sanser, slik som det finnes døve og blinde mennesker som er fullstendig intelligente, men mer sanser og evner til å samhandle gjør det lettere å løse AGI-problemet.

For fullstendighet kan min simulator gi sanser av lukter og smaker. Det å bli sett om disse også vil vise seg å være viktige for AGI.

Du sa at ‘En nøkkelkrav for intelligens er en omgivelse som er ekstern til intelligensen’. Eksempelet du ga var at ‘det er urimelig å forvente at IBMs Watson skal “forstå” noe hvis det ikke har noen underliggende idé om hva en “ting” er’. Dette spiller tydelig på de nåværende begrensningene til smal kunstig intelligens, spesielt naturlig språkbehandling. Hvordan kan kunstig intelligens-utviklere best overvinne denne nåværende begrensningen til kunstig intelligens?

En nøkelfaktor er å lagre kunnskap som ikke er spesifikt verbalt, visuelt eller taktilt, men som abstrakte “ting” som kan ha verbale, visuelle og taktilt attributter. Overvei noe så enkelt som frasen “en rød ball”. Du vet hva disse ordene betyr fordi av dine visuelle og taktilt erfaringer. Du vet også betydningen av relaterte handlinger som kasting, bouncende, sparkende osv. som alle kommer til tanker i noen grad når du hører frasen. Enhver kunstig intelligens som er spesifikt ord-basert eller spesifikt bilde-basert vil gå glipp av de andre nivåene av forståelse.

Jeg har implementert en universell kunnskapslagring som lagrer all slags informasjon i en hjernelignende struktur hvor “ting” er analoge til nerveceller og har mange attributthenvise til andre “ting” – henvise er analoge til synapser. Slik at rød og ball er individuelle “ting” og en rød ball er et “ting” som har attributthenvise til det røde “ting” og ball “ting”. Begge rød og ball har henvise til de tilhørende “ting” for ordene “rød” og “ball”, hver av disse har henvise til andre “ting” som definerer hvordan ordene høres, uttales, leses eller staves, samt mulige handling “ting”.

Du har kommet til slutsatsen at hjernsimulering av generell intelligens er langt borte, mens AGI kan være (relativt) rett rundt hjørnet. Basert på denne uttalelsen, bør vi gå videre fra å prøve å etterligne eller skape en simulering av menneskehjernen, og bare fokusere på AGI?

Dagens dyptelæring og relaterte teknologier er gode for passende applikasjoner, men vil ikke spontant føre til forståelse. For å gå videre, må vi legge til tekniker som er spesifikt rettet mot å løse problemene som er innenfor kapasiteten til enhver treåring.

Å ta nytte av de innebygde evnene til våre datamaskiner kan være mange ganger mer effektivt enn det biologiske ekvivalent eller noen simulering av det. For eksempel kan din hjjerne lagre informasjon i kjemien til biologiske synapser over flere iterasjoner som krever 10-100 millisekunder. En datamaskin kan enkelt lagre den nye synapseverdien i en enkelt minnehensikt, en milliard ganger raskere.

I å utvikle AGI-programvare, har jeg gjort både biologisk neuralsimulering og mer effektive algoritmer. Ved å føre fremover med den universelle kunnskapslagringen, når simuleres i simulererte biologiske nerveceller, krever hver “ting” en minimum på 10 nerveceller og vanligvis mange flere. Dette setter kapasiteten til menneskehjernen til noen hvor mellom ti og hundre millioner “ting”. Men kanskje en AGI vil fremstå intelligent hvis den forstår bare ett million “ting” – godt innenfor rekkevidden til dagens høykvalitets datamaskiner.

En nøkkelukjent er hvor mye av robotens tid som bør allokeres til å prosessere og reagere på verden versus tid brukt på å forestille seg og planlegge. Kan du kort forklare betydningen av forestilling til en AGI?

Vi kan forestille oss mange ting og så bare handle på de vi liker, de som fremmer våre interne mål, hvis du vil. Den virkelige kraften til forestilling er å kunne forutsi fremtiden – en treåring kan finne ut hvilke sekvenser av bevegelser som vil føre henne til et mål i et annet rom og en voksen kan spekulere på hvilke ord som vil ha størst innvirkning på andre.

En AGI vil på samme måte dra nytte av å gå utover å være rent reaktiv til å spekulere på ulike komplekse handlinger og velge den beste.

Du tror at Asimovs tre lover for roboter er for enkle og tvetydige. I din bok delte du noen ideer for anbefalte lover som skal programmeres i roboter. Hvilke lover føler du er mest viktige for en robot å følge?

Ny “lover for roboter” vil utvikle seg over årene når AGI dukker opp. Jeg foreslår noen startere:

1. Maksimere intern kunnskap og forståelse av omgivelsen.
2. Del denne kunnskapen nøyaktig med andre (såvel AGI som mennesker).
3. Maksimere velværen til både AGIer og mennesker som helhet – ikke bare som enkeltpersoner.

Du har noen problemer med Turing-testen og konseptet bak det. Kan du forklare hvordan du mener Turing-testen er feil?

Turing-testen har tjent oss godt i femti år som en ad-hoc-definisjon av generell intelligens, men når AGI nærmer seg, må vi finjustere definisjonen og vi må ha en klarere definisjon. Turing-testen er faktisk en test av hvor menneskelig en er, ikke hvor intelligent en er. Jo lenger en datamaskin kan opprettholde bedraget, jo bedre utfører den testen. Det er åpenbart at å stille spørsmålet “Er du en datamaskin?” og relaterte proxy-spørsmål som “Hva er din favorittmat?” er åpenbare tegn på at AGI er programmert til å bedra – et tvilsomt mål på beste.

Videre har Turing-testen motivert kunstig intelligens-utvikling inn i områder av begrenset verdi med (for eksempel) chatbots med stor fleksibilitet i svar, men uten noen underliggende forståelse.

Hva ville du gjøre annerledes i din versjon av Turing-testen?

Bedre spørsmål kunne undersøke spesifikt inn i forståelsen av tid, rom, årsak og virkning, forutsikt osv. i stedet for tilfeldige spørsmål uten noen spesiell basis i psykologi, nevrovitenskap eller kunstig intelligens. Her er noen eksempler:

1. Hva ser du nå? Hvis du gikk tilbake tre fot, hva forskjeller ville du se?
2. Hvis jeg [handling], hva ville din reaksjon være?
3. Hvis du [handling], hva ville min sannsynlige reaksjon være?
4. Kan du navngi tre ting som er som [objekt]?

Deretter, i stedet for å evaluere svar som om de er ikke å skille fra menneskelige svar, bør de evaluere om de er rimelige svar (intelligente) basert på erfaringen til enheten som testes.

Du har uttalt at når du møter krav om å utføre noen kortvarige destruktive handlinger, vil riktig programmerte AGIer bare nekte. Hvordan kan vi sikre at AGI er riktig programmert fra starten av?

Beslutningstaking er målbasert. I kombinasjon med en forestilling, kan du (eller en AGI) vurdere utfallet av ulike mulige handlinger og velge den som best oppfyller målene. Hos mennesker er våre mål satt av evolerte instinkter og vår erfaring; et AGIs mål er fullstendig opp til utviklerne. Vi må sikre at målene til en AGI stemmer overens med målene til menneskeheten, i stedet for de personlige målene til en enkelt.

Du har uttalt at det er uunngåelig at mennesker vil skape en AGI, hva er din beste anslag for en tidsramme?

Aspekter av AGI vil begynne å dukke opp innen det kommende tiåret, men vi kommer ikke alle til å være enige om at AGI har ankommet. Til slutt vil vi være enige om at AGI har ankommet når de overgår de fleste menneskelige evner med en betydelig margin. Dette vil ta to eller tre tiår lengre.

For all tale om AGI, vil det være virkelig bevissthet som vi kjenner det?

Bevissthet manifesterer seg i en rekke av atferd (som vi kan observere) som er basert på en intern sansning (som vi ikke kan observere). AGIer vil manifestere atferden; de må for å kunne ta intelligente beslutninger. Men jeg hevder at vår indre sansning er i stor grad avhengig av vår sanselige hårdtware og instinkter, og så kan jeg garantere at hva som helst indre sansninger en AGI måtte ha, vil være forskjellig fra et menneskes.

Det samme kan sies om emosjoner og vår sans av fri vilje. I å ta beslutninger, gjennomsyrer vår tro på fri vilje hver enkelt beslutning vi tar. Hvis du ikke tror du har et valg, reagerer du bare. For en AGI å kunne ta vise beslutninger, må den også være klar over sin egen evne til å ta beslutninger.

Siste spørsmål, tror du at en AGI har mer potensiale for godt eller ondt?

Jeg er optimistisk om at AGIer vil hjelpe oss å gå videre som en art og gi oss svar på mange spørsmål om universet. Nøkkelen vil være for oss å forberede og bestemme hva vår relasjon vil være med AGIer når vi definerer deres mål. Hvis vi bestemmer oss for å bruke de første AGIene som verktøy for erobring og beriking, bør vi ikke være overrasket hvis de etter hvert blir til sine egne verktøy for erobring og beriking mot oss. Hvis vi velger at AGIer er verktøy for kunnskap, utforskning og fred, da er det det vi sannsynligvis vil få i retur. Valget er opp til oss.

Takk for et fantastisk intervju som utforsker den fremtidige potensialet for å bygge en AGI. For lesere som ønsker å lære mer, kan de lese ‘Vil datamaskiner gjøre opprør’ eller besøke Charle’s nettsted futureai.guru.