Co je zákon zrychlujících se výnosů? Jak vede k AGI

V nedávném rozhovoru, když byl požádán, kdy očekává příchod umělé obecné inteligence (AGI), odpověděl Elon Musk “3 až 6 let”. Generální ředitel Google DeepMind Demis Hassabis nyní věří, že AGI je “několik let, možná do deseti let” vzdálena, jak uvedl na konferenci The Wall Street Journal’s Future of Everything Festival.

Tato čísla jsou považována za optimistická ve srovnání s většinou odborníků z oboru AI, kteří věří, že AGI je často desetiletí, ne-li století, daleko. Některý z tohoto pesimismu pramení ze strachu z toho, že se zavážou ke kratšímu časovému rámci, aby byli nakonec prokázáni jako špatní. Vždyť v roce 1956, na letním výzkumném projektu v Dartmouthu, byl vytvořen pojem “umělé inteligence” a začal jako obor, s očekáváním, že stroj inteligentní jako lidská bytost bude existovat do nejvýše jedné generace (25 let).

Jiní, jako je Geoffrey Hinton, který je známý jako otec AI, mají o něco více nuancovaný názor. “Až donedávna jsem si myslel, že to bude trvat 20 až 50 let, než budeme mít obecnou AI. A teď si myslím, že to může být 20 let nebo méně.”

Průmysl AI pokročil rychle v posledních několika letech díky rychlému rozvoji algoritmů hlubokého učení, mnoha z nich pohání dnešní velké jazykové modely (LLM).

Přestože všechny tyto průlomy vedly pouze k úzkým aplikacím AI, jako jsou chatboti a jazykový překlad. To je ve srovnání s AGI, typem umělé inteligence, která má schopnost rozumět, učit se a aplikovat znalosti napříč širokým spektrem úloh na úrovni srovnatelné s lidskou bytostí.

Chybějící článek k AGI se mnohým zdá nedosažitelný, ale pro několik, kteří věří v to, co se nazývá “Zákon urychlování návratnosti”, je nevyhnutelné, že nakonec postavíme AGI.

Zákon urychlování návratnosti byl konceptualizován nikým jiným než Rayem Kurzweilem, autorem, vynálezcem a futurologem. Je zapojen do oblastí, jako je optické rozpoznávání znaků (OCR), syntéza řeči, rozpoznávání řeči a byl najat společností Google po zveřejnění své knihy o AI “Jak vytvořit mysl”. Tato průlomová kniha ilustruje, jak potřebujeme pochopit lidský mozek, abychom jej mohli zpětně inženýrovat a vytvořit dokonalý myslící stroj. Tato kniha byla tak zásadní pro budoucnost AI, že Eric Schmidt najal Raye Kurzweila, aby pracoval na projektech AI po dokončení čtení této knihy.

Nejrelevantnější kniha Raye Kurzweila je žádná jiná než “Singularita je blízko“, protože byla publikována v roce 2005, její předpovědi se shodují s technologickým růstem za posledních 20 let. Především Ray Kurzweil předpovídá, že dosáhneme AGI do roku 2029, časový rámec, který je v souladu s nedávným názorem Elona Muska a Demise Hassabise.

Zákon tvrdí, že rychlost změny v široké škále evolučních systémů (včetně růstu technologií) má tendenci exponenciálně růst.

V kontextu technologického růstu zákon implikuje, že můžeme očekávat rychlý technologický pokrok v budoucnosti, protože tempo technologických inovací se samo zrychluje. Ray Kurzweil argumentuje, že každá nová generace technologií staví na předchozí, zvyšuje potenciál pro inovace exponenciálním tempem.

Tento zákon ukazuje, jak explozivní růst urychlování technologií, který je v současné době veden generativní AI, bude jezdit na dalších vlnách konvergujících exponenciálních technologií, jako je výroba čipů a 3D tisk. Tato konvergence je katalyzátorem pro AI, aby se stal nejvýkonnější aplikací, která byla kdy postavena.

V roce 2001 Ray Kurzweil předpověděl následující:

Analýza historie technologií ukazuje, že technologická změna je exponenciální, na rozdíl od obecného “intuitivního lineárního” pohledu. Takže nebudeme zažívat 100 let pokroku v 21. století — bude to spíše 20 000 let pokroku (v současné rychlosti). “Návraty”, jako je rychlost čipu a nákladová efektivita, se také zvyšují exponenciálně. Existuje dokonce exponenciální růst v rychlosti exponenciálního růstu. Během několika desetiletí bude umělá inteligence překračovat lidskou inteligenci, což povede k Singularity — technologické změně tak rychlé a hluboké, že představuje zlom v dějinách lidstva. Implikace zahrnují spojení biologické a nebiologické inteligence, softwarově založené nesmrtelné lidi a ultra-vysoké úrovně inteligence, které se rozšiřují do vesmíru rychlostí světla.

Tento technologický výbuch je způsoben Mooreovým zákonem, který předpověděl, že počet tranzistorů na daném čipu se bude zhruba každé dva roky zdvojnásobovat. To se kombinuje s jinými technologickými průlomy, které ilustrují, že Zákon urychlování návratnosti prosperuje. Tyto jsou Ray Kurzweilovy pozorování toho, co to bude znamenat pro budoucnost lidstva:

• Evoluce využívá pozitivní zpětnou vazbu: účinnější metody vzniklé v jedné fázi evolučního pokroku slouží k vytvoření další fáze. Výsledkem je, že
• tempo pokroku evolučního procesu v čase exponenciálně roste. Postupně roste i „uspořádanost“ informací obsažených v evolučním procesu, tedy míra, do jaké informace slouží danému účelu, jímž je v evoluci přežití.
• Z předchozího pozorování vyplývá, že „výnosy“ evolučního procesu, například jeho rychlost, nákladová efektivita nebo celková „síla“, v čase exponenciálně rostou.
• V další smyčce pozitivní zpětné vazby se s rostoucí účinností určitého evolučního procesu, například výpočtů, a jeho nákladovou efektivitou investuje více zdrojů do dalšího pokroku tohoto procesu. Vzniká tak druhá úroveň exponenciálního růstu: samotné tempo exponenciálního růstu roste exponenciálně.
• Biologická evoluce je jedním z takových evolučních procesů.
• Technologická evoluce je dalším takovým procesem. Vznik prvního druhu schopného vytvářet technologie vedl k novému evolučnímu procesu technologií. Technologická evoluce je proto výsledkem biologické evoluce a jejím pokračováním.
• Konkrétní paradigma, tedy metoda či přístup k řešení problému, například zmenšování tranzistorů v integrovaném obvodu za účelem zvýšení výkonu počítačů, umožňuje exponenciální růst, dokud nevyčerpá svůj potenciál. Poté dochází ke změně paradigmatu, tedy zásadní změně přístupu, která umožní pokračování exponenciálního růstu.

Čtenáři by měli přečíst Kurzweilův blog, poté by měli reflektovat na implikace tohoto exponenciálního růstu a jak se shoduje a liší od toho, co osobně zažili od počátku zveřejnění blogu.

Zákon urychlování návratnosti, ačkoli není tak populární jako Mooreův zákon, zůstává stejně relevantní dnes jako když byl poprvé zveřejněn.