Charles J. Simon, forfatter, Will Computers Revolt? – Intervjuserie

Charles J. Simon, BSEE, MSCS, nasjonalt anerkjent gründer, programvareutvikler og leder. Med en bred ledelses- og teknisk ekspertise og grader innen både elektroteknikk og datavitenskap har Mr. Simon mange års dataerfaring i industrien inkludert banebrytende arbeid innen AI og CAD (to generasjoner CAD).

Han er også forfatteren av 'Will Computers Revolt', som gir et dyptgående syn på den fremtidige muligheten for Artificial General Intelligence (AGI).

Hva var det som opprinnelig tiltrakk deg til AI, og spesielt til AGI?

Jeg har blitt fascinert av spørsmålet "Kan maskiner tenke?" helt siden jeg første gang leste Alan Turings banebrytende papir fra 1950 som begynner med det spørsmålet. Så langt er svaret klart "Nei", men det er ingen vitenskapelig grunn til hvorfor ikke. Jeg ble med i AI-fellesskapet med den første nevrale nettverksboomen på slutten av 1980-tallet, og siden den gang har AI tatt store fremskritt. Men de mellomliggende tretti årene har ikke brakt forståelse for maskinene våre, en evne som ville kastet mange apper til nye nivåer av nytte.

Du uttalte at du deler muligheten til MIT AI-ekspert Rodney Brooks som sier, "at uten interaksjon med et miljø - uten en robotkropp som du vil - vil maskiner aldri vise AGI." Dette sier i utgangspunktet at med utilstrekkelige input fra en robotkropp, vil AI aldri utvikle AGI-evner. Utenom datasyn, hvilke typer input er nødvendig for å utvikle AGI?

Dagens AI må utvides med grunnleggende konsepter som den fysiske eksistensen av objekter i en virkelighet, tidens gang, årsak og virkning – begreper som er klare for enhver treåring. En pjokk bruker flere sanser for å lære disse konseptene ved å ta på og manipulere leker, bevege seg gjennom hjemmet, lære språk osv. Selv om det er mulig å lage en AGI med mer begrensede sanser, akkurat som det er døve og blinde som er perfekt intelligent, men flere sanser og evner til å samhandle gjør det lettere å løse AGI-problemet.

For fullstendighetens skyld kan simulatoren min gi luktesanser og smakssanser. Det gjenstår å se om disse også vil vise seg å være viktige for AGI.

Du uttalte at "Et nøkkelkrav for intelligens er et miljø som er utenfor intelligensen". Eksemplet du ga er at "det er urimelig å forvente at IBMs Watson skal "forstå" noe hvis den ikke har noen underliggende ide om hva en "ting" er. Dette spiller tydelig inn i de nåværende begrensningene til smal AI, spesielt naturlig språkbehandling. Hvordan kan AI-utviklere best overvinne denne nåværende begrensningen av AI?

En nøkkelfaktor er å lagre kunnskap som ikke er spesifikt verbal, visuell eller taktil, men som abstrakte "ting" som kan ha verbale, visuelle og taktile attributter. Tenk på noe så enkelt som uttrykket "en rød ball". Du vet hva disse ordene betyr på grunn av dine visuelle og taktile opplevelser. Du vet også betydningen av relaterte handlinger som å kaste, sprette, sparke osv. som alle kommer til en viss grad når du hører uttrykket. Ethvert AI-system som er spesifikt ordbasert eller spesifikt bildebasert vil gå glipp av de andre forståelsesnivåene.

Jeg har implementert en Universal Knowledge Store som lagrer all slags informasjon i en hjernelignende struktur der ting er analoge med nevroner og har mange attributtreferanser til andre ting – referanser er analoge med synapser. Dermed er rød og ball individuelle ting, og en rød ball er en ting som har attributtreferanser til den røde tingen og balltingen. Både rød og ball har referanser til de tilsvarende tingene for ordene "rød" og "ball", som hver i sin tur har referanser til andre ting som definerer hvordan ordene høres, snakkes, leses eller staves, samt mulig handling Ting.

Du har kommet til konklusjonen at hjernesimulering av generell intelligens er langt unna mens AGI kan være (relativt) rett rundt hjørnet. Basert på denne uttalelsen, bør vi gå videre fra å forsøke å etterligne eller lage en simulering av den menneskelige hjernen, og bare fokusere på AGI?

Dagens dyplæring og relaterte teknologier er gode for passende applikasjoner, men vil ikke spontant føre til forståelse. For å ta de neste stegene, må vi legge til teknikker spesifikt rettet mot å løse problemene som er innenfor kapasiteten til enhver treåring.

Å dra nytte av de iboende egenskapene til datamaskinene våre kan være størrelsesorden mer effektivt enn den biologiske ekvivalenten eller noen simulering av den. For eksempel kan hjernen din lagre informasjon i kjemien til biologiske synapser over flere iterasjoner som krever 10-100 millisekunder. En datamaskin kan ganske enkelt lagre den nye synapseverdien i en enkelt minnesyklus, en milliard ganger raskere.

I utviklingen av AGI-programvare har jeg gjort både biologisk nevrale simulering og mer effektive algoritmer. For å fortsette med Universal Knowledge Store, når simulert i simulerte biologiske nevroner, krever hver ting minimum 10 nevroner og vanligvis mange flere. Dette setter kapasiteten til den menneskelige hjernen et sted mellom ti og hundre millioner ting. Men kanskje en AGI ville virke intelligent hvis den bare forstår én million ting – godt innenfor rammen av dagens avanserte stasjonære datamaskiner.

En nøkkel ukjent er hvor mye av robotens tid som skal brukes til å behandle og reagere på verden kontra tid brukt på å forestille seg og planlegge. Kan du kort forklare betydningen av fantasi for en AGI?

Vi kan forestille oss mange ting og da bare handle på de vi liker, de som fremmer våre interne mål, om du vil. Den virkelige kraften til fantasi er å kunne forutsi fremtiden - en treåring kan finne ut hvilke bevegelsessekvenser som vil lede henne til et mål i et annet rom, og en voksen kan spekulere i hvilke ord som vil ha størst innvirkning på andre .

En AGI vil på samme måte ha nytte av å gå utover å være rent reaktiv til å spekulere i forskjellige komplekse handlinger og velge det beste.

Du mener at Asimovs tre lover innen robotikk er for enkle og tvetydige. I boken din delte du noen ideer til anbefalte lover som skal programmeres i roboter. Hvilke lover føler du er viktigst for en robot å følge?

Nye "robotikklover" vil utvikle seg over år etter hvert som AGI dukker opp. Jeg foreslår noen forretter:

1. Maksimere intern kunnskap og forståelse av miljøet.
2. Del denne kunnskapen nøyaktig med andre (både AGI og mennesker).
3. Maksimer velværet til både AGIer og mennesker som helhet – ikke bare som individ.

Du har noen problemer med Turing-testen og konseptet bak den. Kan du forklare hvordan du mener Turing-testen er feil?

Turing-testen har tjent oss godt i femti år som en ad-hoc-definisjon av generell intelligens, men når AGI nærmer seg, må vi finpusse definisjonen og vi trenger en klarere definisjon. Turing-testen er faktisk en test på hvor menneskelig man er, ikke hvor intelligent man er. Jo lenger en datamaskin kan opprettholde bedraget, jo bedre presterer den på testen. Å stille spørsmålet: "Er du en datamaskin?" og relaterte proxy-spørsmål som "Hva er favorittmaten din?" er døde utdelinger med mindre AGI er programmert til å lure – i beste fall et tvilsomt mål.

Videre har Turing-testen motivert AI-utvikling til områder av begrenset verdi med (for eksempel) chatbots med stor fleksibilitet i svar, men ingen underliggende forståelse.

Hva ville du gjort annerledes i din versjon av Turing-testen?

Bedre spørsmål kan spesifikt undersøke forståelsen av tid, rom, årsak-og-virkning, ettertanke, etc. i stedet for tilfeldige spørsmål uten noe spesielt grunnlag i psykologi, nevrovitenskap eller AI. Her er noen eksempler:

1. Hva ser du akkurat nå? Hvis du gikk tre fot tilbake, hvilke forskjeller ville du se?
2. Hvis jeg [handling], hva ville din reaksjon vært?
3. hvis du [handling], hva vil mine sannsynlige reaksjoner være?
4. Kan du nevne tre ting som er som [objekt]?

Deretter, i stedet for å evaluere svar på om de ikke kan skilles fra menneskelige svar, bør de evalueres med tanke på om de er rimelige svar (intelligente) basert på erfaringen til enheten som testes.

Du har uttalt at når de står overfor krav om å utføre en kortsiktig destruktiv aktivitet, vil riktig programmerte AGI-er ganske enkelt nekte. Hvordan kan vi sikre at AGI er riktig programmert til å begynne med?

Beslutningstaking er målbasert. I kombinasjon med en fantasi vurderer du (eller en AGI) resultatet av ulike mulige handlinger og velger den som best oppnår målene. Hos mennesker er våre mål satt av utviklede instinkter og vår erfaring; en AGIs mål er helt opp til utviklerne. Vi må sikre at målene til en AGI stemmer overens med menneskehetens mål i motsetning til de personlige målene til et individ. [Tre mulige mål som oppført ovenfor.]

Du har uttalt at det er uunngåelig at mennesker vil lage en AGI, hva er ditt beste anslag for en tidslinje?

Fasetter av AGI vil begynne å dukke opp i løpet av det kommende tiåret, men vi vil ikke alle være enige om at AGI har kommet. Til slutt vil vi være enige om at AGI har kommet når de overgår de fleste menneskelige evner med en betydelig margin. Dette vil ta to eller tre tiår lenger.

For alle samtalene om AGI vil det være ekte bevissthet slik vi kjenner den?

Bevissthet manifesterer seg i et sett med atferd (som vi kan observere) som er basert på en indre følelse (som vi ikke kan observere). AGI-er vil manifestere atferden; de trenger for å ta intelligente beslutninger. Men jeg hevder at vår indre sansning i stor grad er avhengig av vår sensoriske maskinvare og instinkter, og derfor kan jeg garantere at uansett hvilke indre sansninger en AGI kan ha, vil de være annerledes enn et menneskes.

Det samme kan sies om følelser og vår følelse av fri vilje. Når man tar beslutninger, gjennomsyrer ens tro på fri vilje hver beslutning vi tar. Hvis du ikke tror du har et valg, reagerer du rett og slett. For at en AGI skal ta gjennomtenkte avgjørelser, må den også være klar over sin egen evne til å ta beslutninger.

Siste spørsmål, tror du at en AGI har mer potensial for godt eller dårlig?

Jeg er optimistisk på at AGI-er vil hjelpe oss å komme videre som art og gi oss svar på mange spørsmål om universet. Nøkkelen vil være for oss å forberede og bestemme hva forholdet vårt vil være til AGIer når vi definerer målene deres. Hvis vi bestemmer oss for å bruke de første AGI-ene som verktøy for erobring og berikelse, bør vi ikke bli overrasket om de på veien blir deres egne verktøy for erobring og berikelse mot oss. Hvis vi velger at AGI er verktøy for kunnskap, utforskning og fred, så er det det vi sannsynligvis vil få tilbake. Valget er opp til oss.

Takk for et fantastisk intervju som utforsker det fremtidige potensialet ved å bygge en AGI. For lesere som ønsker å lære mer, kan de lese "Will Computers Revolt" eller besøke Charles nettsted futureai.guru.