Jaký je zákon zrychlujících se návratů? Jak to vede k AGI

V nedávném rozhovoru na otázku, kdy očekává příchod umělé obecné inteligence (AGI), Elon Musk odpověděl: “3 až 6 let”. Generální ředitel společnosti Google DeepMind Demis Hassabis nyní věří, že AGI je "za pár let, možná za deset let“ as uvedený na Festival budoucnosti všeho od Wall Street Journal.

Tato čísla jsou považována za optimistická ve srovnání s většinou vědců z oboru AI, kteří věří, že AGI je často deset let, ne-li století pryč. Část tohoto pesimismu pramení ze strachu, že se zavážeme ke kratší časové ose, aby se nakonec ukázalo, že je špatný. Koneckonců v roce 1956 byl na Letním výzkumném projektu v Dartmouthu termín „umělá inteligence“ vytvořen a zahájen jako obor s očekáváním, že stroj tak inteligentní jako lidská bytost nebude existovat déle než jednu generaci (25 let).

Jiní, jako je známý Geoffrey Hinton jako má kmotr AI trochu víc nuancovaný pohled. „Donedávna jsem si myslel, že to bude 20 až 50 let, než budeme mít AI pro všeobecné účely. A teď si myslím, že to může být 20 let nebo méně."

Odvětví umělé inteligence za posledních několik let rychle pokročilo díky rychlému vývoji hloubkových výukových algoritmů, z nichž mnohé pohánějí dnešní Velké jazykové modely (LLM).

Všechny tyto průlomy však vedly pouze k úzkým aplikacím umělé inteligence, jako jsou chatboti a překlady jazyků. To je ve srovnání s AGI, typem umělé inteligence, který má schopnost porozumět, učit se a aplikovat znalosti v celé řadě úkolů na úrovni srovnatelné s lidskou bytostí.

Chybějící odkaz na AGI se pro mnohé zdá nedosažitelný, ale pro pár lidí, kteří věří v to, co se nazývá „Zákon zrychlujících se návratů“, je nevyhnutelné, že nakonec AGI vybudujeme.

Zákon zrychlujících se návratů nevymyslel nikdo jiný než Ray Kurzweil, autor, vynálezce a futurista. Zabývá se obory, jako je optické rozpoznávání znaků (OCR), syntéza převodu textu na řeč, technologie rozpoznávání řeči, a po vydání své knihy AI ho najala společnost Google. "Jak vytvořit mysl". Tato přelomová kniha ilustruje, jak potřebujeme porozumět lidskému mozku, abychom jej mohli zpětně analyzovat a vytvořit konečný myslící stroj. Tato kniha byla pro budoucnost umělé inteligence natolik zásadní, že Eric Schmidt naverboval Raye Kurzweila, aby pracoval na projektech umělé inteligence poté, co dočetl tuto klíčovou knihu. 

Nejrelevantnější knihou Raye Kurzweila není nikdo jiný než „Singularity je blízko“, od zveřejnění v roce 2005, jeho předpovědi odrážely technologický růst za poslední 2 desetiletí. A co je nejdůležitější, Ray Kurzweil předpovídá, že AGI dosáhneme do roku 2029, což je časová osa, která je v souladu s nedávným názorem sdíleným Elonem Muskem a Demis Hassabis.

Zákon předpokládá, že rychlost změn v široké škále evolučních systémů (včetně, ale nejen, růstu technologií) má tendenci exponenciálně narůstat.

V souvislosti s technologickým růstem zákon naznačuje, že v budoucnu můžeme očekávat rychlý technologický pokrok, protože tempo technologických inovací se samo o sobě zrychluje. Ray Kurzweil tvrdí, že každá nová generace technologie staví na té předchozí a exponenciálním tempem zvyšuje potenciál pro inovace.

Tento zákon ukazuje, jak explozivní růst zrychlujících se technologií, který v současnosti vede Generativní AI, ponese další vlny dalších konvergujících exponenciálních technologií, jako je výroba čipů a 3D tisk. Tato konvergence je katapultem pro AI, aby se stala nejvýkonnější aplikací, která byla kdy vytvořena.

V roce 2001 Ray Kurzweil Předpokládané následující:

Analýza historie technologie ukazuje, že technologické změny jsou exponenciální, na rozdíl od běžného „intuitivního lineárního“ pohledu. Takže v 100. století nezažijeme 21 let pokroku – bude to spíše 20,000 XNUMX let pokroku (dnešním tempem). „Výnosy“, jako je rychlost čipu a nákladová efektivita, také rostou exponenciálně. Existuje dokonce exponenciální růst rychlosti exponenciálního růstu. Během několika desetiletí strojová inteligence překoná lidskou inteligenci, což povede k Singularitě – technologické změně tak rychlé a hluboké, že představuje trhlinu ve struktuře lidské historie. Důsledky zahrnují sloučení biologické a nebiologické inteligence, nesmrtelných lidí založených na softwaru a ultravysoké úrovně inteligence, které expandují ven ve vesmíru rychlostí světla.

Tato technologická exploze je způsobena Mooreův zákon který předpověděl, že počet tranzistorů na daném čipu se zdvojnásobí přibližně každé dva roky. To ve spojení s dalším technologickým průlomem ilustruje, že zákon zrychlující se návratnosti vzkvétá. Tyto jsou Pozorování Raye Kurzweila o tom, co to bude znamenat pro budoucnost lidstva:

• Evoluce uplatňuje pozitivní zpětnou vazbu v tom, že schopnější metody vyplývající z jedné fáze evolučního pokroku jsou použity k vytvoření další fáze. V důsledku toho
• rychlost postupu evolučního procesu se v průběhu času exponenciálně zvyšuje. Postupem času se „pořadí“ informací zasazených do evolučního procesu (tj. míra toho, jak dobře informace vyhovuje účelu, kterým je v evoluci přežití) zvyšuje.
• Korelátem výše uvedeného pozorování je, že „výnosy“ evolučního procesu (např. rychlost, nákladová efektivita nebo celková „síla“ procesu) v průběhu času exponenciálně rostou.
• V další smyčce pozitivní zpětné vazby, jak se určitý evoluční proces (např. výpočet) stává efektivnější (např. nákladově efektivní), jsou na další pokrok tohoto procesu nasazeny větší zdroje. To má za následek druhou úroveň exponenciálního růstu (tj. rychlost exponenciálního růstu sama roste exponenciálně).
• Biologická evoluce je jedním z takových evolučních procesů.
• Technologický vývoj je dalším takovým evolučním procesem. Vznik prvního druhu vytvářejícího technologii skutečně vyústil v nový evoluční proces technologie. Technologická evoluce je tedy výsledkem – a pokračováním – biologické evoluce.
• Specifické paradigma (metoda nebo přístup k řešení problému, např. zmenšování tranzistorů na integrovaném obvodu jako přístup k výrobě výkonnějších počítačů) poskytuje exponenciální růst, dokud metoda nevyčerpá svůj potenciál. Když k tomu dojde, dojde k posunu paradigmatu (tj. zásadní změně v přístupu), což umožňuje pokračování exponenciálního růstu.

Čtenáři by měli číst Kurzweilův blog, poté by měli přemýšlet o důsledcích tohoto exponenciálního růstu a o tom, jak se shoduje a liší od toho, co osobně zažili od doby, kdy byl blog původně publikován.

Zákon zrychlujících návratů, i když není tak populární jako Moorův zákon, zůstává dnes stejně relevantní jako v době, kdy byl původně publikován.