Charles J. Simon, Autor, Will Computers Revolt? – Rozhovorová série

Charles J. Simon, BSEE, MSCS, národně uznávaný podnikatel, softwarový vývojář a manažer. S širokými manažerskými a technickými znalostmi a tituly v oborech elektrotechnika a počítačové vědy má pan Simon mnoholeté zkušenosti s počítači v průmyslu, včetně průkopnických prací v oblasti umělé inteligence a počítačového návrhu (dvě generace počítačového návrhu).

Také je autorem knihy ‘Will Computers Revolt’, která nabízí hluboký pohled na budoucí možnost umělé obecné inteligence (AGI).

Co vás původně přitáhlo k umělé inteligenci a konkrétně k AGI?

Jsem fascinován otázkou, „Můžou stroje myslet?“ již od chvíle, kdy jsem poprvé četl Alan Turingův seminální článek z roku 1950, který začíná touto otázkou. Dosud je odpověď jasně „Ne“, ale neexistuje žádný vědecký důvod, proč by to nemohlo být možné. Připojil jsem se k AI komunitě během počáteční vlny neuronových sítí na konci 80. let a od té doby AI udělala velké pokroky. Ale uplynulých třicet let nepřineslo pochopení našim strojům, schopnost, která by mohla mnoha aplikacím přinést nové úrovně užitečnosti.

Rodney Brooks, odborník na AI z MIT, říká, že „bez interakce se světem – bez robotického těla, jak byste řekli – stroje nikdy nevyvinou AGI.“ To基本ně znamená, že s nedostatečnými vstupy z robotického těla, AI nikdy nevyvine schopnosti AGI. Kromě počítačového vidění, jaké typy vstupů jsou potřebné pro vývoj AGI?

Dnešní AI potřebuje být doplněna základními koncepty, jako je fyzická existence objektů v realitě, průběh času, příčina a následek – koncepty, které jsou jasné pro každého tříletého dítěte. Dítě používá多smysly, aby se tyto koncepty naučilo dotýkáním a manipulací s hračkami, pohybem po domě, učením se jazyka atd. Zatímco je možné vytvořit AGI s omezenějšími smysly, stejně jako existují hluché a slepé lidé, kteří jsou dokonale inteligentní, ale více smyslů a schopností interagovat usnadňuje řešení problému AGI.

Pro úplnost můj simulátor může poskytnout smysly čichu a chuti. Zbývá zjistit, zda tyto budou také důležité pro AGI.

Rodney Brooks také říká, že „klíčovým požadavkem pro inteligenci je prostředí, které je vnější vůči inteligenci“. Jako příklad uvedl, že „je nerozumné očekávat, že IBMův Watson „porozumí“ něčemu, pokud nemá základní představu o tom, co je „věc“. To jasně ukazuje na současné omezení úzké AI, zejména zpracování přirozeného jazyka. Jak mohou vývojáři AI překonat toto současné omezení?

Klíčovým faktorem je ukládání znalostí, které nejsou specificky verbální, vizuální nebo hmatové, ale jako abstraktní „věci“, které mohou mít verbální, vizuální a hmatové atributy. Zvažte něco tak jednoduchého, jako je věta „červený míč“. Vous víte, co tyto slova znamenají, protože vašich vizuálních a hmatových zkušeností. Vous také víte, co znamená související akce, jako je házení, odskakování, kopání atd., které všechny přicházejí na mysl do jisté míry, když slyšíte tuto větu. Jakékoli AI systémy, které jsou specificky založeny na slovech nebo specificky založeny na obrazech, budou postrádat jiné úrovně porozumění.

Já jsem implementoval Univerzální znalostní úložiště, které ukládá jakýkoli typ informací ve struktuře podobné mozkové, kde „věci“ jsou analogické k neuronům a mají mnoho atributních odkazů na jiné „věci“ – odkazy jsou analogické k synapsím. Takže červená a míč jsou jednotlivé „věci“ a červený míč je „věc“, která má atributní odkazy na červenou „věc“ a míč „věc“. Obě červená a míč mají odkazy na odpovídající „věci“ pro slova „červená“ a „míč“, každé z nich má odkazy na jiné „věci“, které definují, jak se slova slyší, vyslovují, čtou nebo пишуть, jakož i možné akční „věci“.

Dosáhl jste závěru, že simulace mozkové obecné inteligence je ještě daleko, zatímco AGI může být (relativně) hned za rohem. Měli bychom se přestat snažit emulovat nebo vytvářet simulaci lidského mozku a místo toho se zaměřit na AGI?

Dnešní hluboké učení a související technologie jsou skvělé pro vhodné aplikace, ale nebudou spontánně vést k porozumění. Abychom mohli udělat další kroky, potřebujeme přidat techniky, které jsou specificky zaměřeny na řešení problémů, které jsou v rámci schopností každého tříletého dítěte.

Využití intrinsic schopností našich počítačů může být řádově efektivnější než biologický ekvivalent nebo jakákoli simulace. Například váš mozek může ukládat informace v chemii biologických synapsí přes několik iterací, vyžadujících 10-100 milisekund. Počítač může simplemente uložit novou synaptickou hodnotu v jednom cyklu paměti, miliardu krát rychleji.

Při vývoji softwaru AGI jsem dělal jak biologickou neuronovou simulaci, tak efektivnější algoritmy. Pokračování s Univerzálním znalostním úložištěm, když je simulováno v simulovaných biologických neuronech, každá „věc“ vyžaduje minimálně 10 neuronů a obvykle mnoho více. To umístí kapacitu lidského mozku někde mezi deseti a sto miliony „věcí“. Ale možná by AGI vypadala inteligentně, kdyby chápala pouze jeden milion „věcí“ – dobře v rámci dnešních high-end desktopových počítačů.

Jedním z klíčových neznámých je, kolik času by mělo být přiděleno robotovi pro zpracování a reagování na svět versus času stráveného představováním a plánováním. Můžete stručně vysvětlit důležitost představivosti pro AGI?

Můžeme si představit mnoho věcí a poté jednat pouze na těch, které se nám líbí, těch, které dále našich vnitřních cílů, pokud chcete. Skutečná síla představivosti spočívá v tom, že můžeme předpovídat budoucnost – tříleté dítě může vymyslet, které sekvence pohybu jej dovedou k cíli v jiné místnosti a dospělý může spekulovat o tom, která slova budou mít největší dopad na ostatní.

AGI podobně bude profitovat z toho, že půjde za hranice pouhé reaktivity a bude spekulovat o různých komplexních akcích a volit nejlepší.

Věříte, že Asimovovy tři zákony robotiky jsou příliš jednoduché a nejednoznačné. Ve své knize jste sdílel některé nápady pro doporučené zákony, které by měly být naprogramovány do robotů. Které zákony považujete za nejdůležitější pro roboty?

Nové „zákony robotiky“ se budou vyvíjet po léta, jakmile se AGI objeví. Navrhuji několik začátečníků:

1. Maximalizovat vnitřní znalosti a porozumění prostředí.
2. Sdílet tyto znalosti přesně s ostatními (jak AGI, tak lidmi).
3. Maximalizovat blaho obou AGI a lidí jako celku – ne jen jako jednotlivce.

Máte nějaké problémy s Turingovým testem a konceptem, který stojí za ním. Můžete vysvětlit, jak věříte, že Turingův test je chybný?

Turingův test nám dobře sloužil po padesát let jako ad-hoc definice obecné inteligence, ale jak se AGI blíží, potřebujeme definici vylepšit a potřebujeme jasnější definici. Turingův test je ve skutečnosti testem, jak je člověk, ne jak je inteligentní. Čím déle počítač může udržet klam, tím lépe si vede v testu. Zjevně, položení otázky, „Jste počítač?“ a související proxy otázky, jako je „Jaké je vaše oblíbené jídlo?“ jsou dead giveaways, pokud není AGI naprogramován tak, aby klamal – pochybný cíl na nejlepší.

Dále, Turingův test motivoval vývoj AI do oblastí omezené hodnoty s (například) chatboty s velkou flexibilitou v odpovědích, ale bez základního porozumění.

Co byste dělali jinak ve své verzi Turingova testu?

Lepší otázky by mohly prozkoumat specificky porozumění času, prostoru, příčiny a následku, předvídání atd. spíše než náhodné otázky bez jakéhokoli zvláštního základu v psychologii, neurovědě nebo AI. Zde jsou einige příklady:

1. Co vidíte právě teď? Pokud byste ustoupili o tři kroky, jaké rozdíly byste viděli?
2. Jestliže [akce], jaká by byla vaše reakce?
3. Jestliže [akce], jaká by byla moje pravděpodobná reakce?
4. Můžete jmenovat tři věci, které jsou podobné [objektu]?

Poté by měly být odpovědi hodnoceny z hlediska toho, zda jsou rozumné (inteligentní) na základě zkušeností entity, která je testována.

Řekli jste, že když je AGI konfrontována s požadavky na provedení některé krátkodobé destruktivní činnosti, správně naprogramované AGI prostě odmítne. Jak můžeme zajistit, aby AGI byla správně naprogramována?

Rozhodování je založeno na cílech. V kombinaci s představivostí můžete (nebo AGI) zvažovat výsledky různých možných akcí a zvolit tu, která nejlépe dosáhne cílů. U lidí jsou naše cíle stanoveny evolučními instinkty a našimi zkušenostmi; cíle AGI jsou zcela na vývojářích. Potřebujeme zajistit, aby cíle AGI byly v souladu s cíli lidstva, nikoli s osobními cíli jednotlivce. [Tři možné cíle jsou uvedeny výše.]

Řekli jste, že je nevyhnutelné, že lidé vytvoří AGI, co je váš nejlepší odhad pro časový rámec?

Aspekty AGI se začnou objevovat v průběhu příštího desetiletí, ale nebudeme všichni souhlasit s tím, že AGI skutečně přišla. Nakonec budeme souhlasit s tím, že AGI přišla, až překročí většinu lidských schopností o značnou míru. To bude trvat dvě nebo tři desetiletí déle.

Pro všechny diskuse o AGI, bude to skutečná vědomí, jak je známe?

Veřejné chování se projevuje v sadě chování (které můžeme pozorovat), které je založeno na vnitřním pocitu (který nemůžeme pozorovat). AGI bude projevovat chování; potřebují to, aby mohli učinit inteligentní rozhodnutí. Ale tvrdím, že náš vnitřní pocit je značně závislý na našich smyslových hardwarových a instinktech a tak mohu garantovat, že jakékoli vnitřní pocity, které by AGI mohlo mít, budou odlišné od těch lidských.

Stejně tak lze říci o emocích a našem pocitu svobodné vůle. Při rozhodování naše víra ve svobodnou vůli prostupuje každé rozhodnutí, které děláme. Pokud nevěříte, že máte volbu, prostě reagujete. Pro AGI, aby dělala uvážlivá rozhodnutí, bude také muset být vědoma své vlastní schopnosti dělat rozhodnutí.

Poslední otázka, věříte, že AGI má větší potenciál pro dobro nebo zlo?

Jsem optimista, že AGI nám pomůže posunout se jako druh a přinese nám odpovědi na mnoho otázek o vesmíru. Klíčem bude pro nás připravit se a rozhodnout, jaká bude naše vztah s AGI, jakmile je definujeme. Pokud se rozhodneme použít první AGI jako nástroje dobytí a obohacení, neměli bychom být překvapeni, pokud se později stanou svými vlastními nástroji dobytí a obohacení proti nám. Pokud zvolíme, že AGI jsou nástroje poznání,探索 a míru, pak to je to, co pravděpodobně dostaneme v návratu. Volba je na nás.

Děkuji za fantastický rozhovor, který prozkoumává budoucí potenciál budování AGI. Pro čtenáře, kteří chtějí se dozvědět více, mohou číst ‘Will Computers Revolt’ nebo navštívit Charleovu webovou stránku futureai.guru.