Rekursivní superinteligence získala 650 milionů dolarů na rozvoj samo-vylepšujícího se umělého inteligence

Nová společnost pro umělou inteligenci s názvem Rekursivní superinteligence vyšla z utajení s 650 miliony dolarů financování a neobvykle ambiciózním cílem: vyvinout systémy umělé inteligence, které jsou schopné se vylepšovat bez přímé lidské intervence.

Společnost je vedená výzkumníkem a podnikatelem Richardem Socherem, spolu s zakládajícím týmem, který zahrnuje prominentní výzkumníky z Google DeepMind, OpenAI, Meta a akademické sféry.

Společnost vstupuje na trh v době, kdy se průmysl umělé inteligence rychle mění od budování větších jazykových modelů směrem k vývoji systémů, které mohou autonomně rozumět, přizpůsobovat se a potenciálně provádět自己的 výzkum. Zatímco většina společností pro umělou inteligenci zůstává zaměřena na zlepšování výkonu modelů prostřednictvím lidsky řízeného tréninku a učení posilováním, Rekursivní superinteligence se zaměřuje na něco mnohem experimentálnějšího: rekursivní samo-vylepšování.

Koncept byl již dlouho diskutován v kruzích umělé inteligence jako možný směr směrem k superinteligenci. V jednoduchých termínech je to myšlenka, že systém umělé inteligence by mohl identifikovat slabosti ve své vlastní architektuře, generovat nové přístupy k řešení těchto slabostí, testovat výsledky a neustále se vylepšovat v ongoing zpětné smyčce.

Podle Sochera většina současných forem AI-pomocného kódování nebo AI-generovaného výzkumu nevyhovuje skutečnému rekursivnímu samo-vylepšování. Místo toho argumentuje, že skutečná rekurze by vyžadovala celý cyklus ideace, implementace, testování a rafinace, aby se udál autonomně.

Richard Socherova dlouhodobá vize pro umělou inteligenci

Socher není nový v ambiciózních projektech umělé inteligence. Před založením Rekursivní superinteligence se stal široce známým jako spoluzakladatel a CEO You.com, společnosti pro umělou inteligenci a podnikovou infrastrukturu, která vyšla jako jeden z prvních challengerů tradičních vyhledávačů.

You.com最初 získal pozornost pro kombinaci konverzační umělé inteligence s vyhledáváním na webu, roky předtím, než se generativní umělá inteligence stala mainstreamem. V průběhu času se společnost vyvinula směrem k podnikovému nástroji pro umělou inteligenci, API a produktivitě zaměřeným systémům umělé inteligence.

Před You.com Socher působil jako Chief Scientist ve společnosti Salesforce a vybudoval si reputaci jako jeden z nejcitovanějších výzkumníků v oblasti zpracování přirozeného jazyka. Jeho akademická práce přispěla k základním technikám ve word embedincích, kontextovém porozumění jazyka a neuronových sítích, které pomáhaly tvarovat moderní systémy umělé inteligence.

Rekursivní superinteligence se zdá být odrazem jiné fáze Socherovy kariéry: méně zaměřené na komerční nasazení umělé inteligence a více zaměřené na fundamentální průlomy v inteligenci samotné.

Nicméně Socher zpochybnil popis společnosti jako čistě výzkumné laboratoře. Zdůraznil, že společnost má v úmyslu vyvinout komerční produkty a věří, že praktické aplikace by mohly vyjít během “čtvrtletí, ne let.”

Přístup otevřenosti

Jedním z centrálních konceptů za Rekursivní superinteligencí je něco, co výzkumníci označují jako “otevřenost.”

Rather než trénovat modely směrem k jednomu pevnému cíli, otevřené systémy neustále generují nové prostředí, výzvy a formy adaptace. Přístup čerpá inspiraci z biologické evoluce, kde organismy neustále evoluují v reakci na měnící se podmínky a konkurenční adaptace.

Spoluzakladatel společnosti Tim Rocktäschel dříve pracoval na výzkumu otevřené umělé inteligence v Google DeepMind, včetně projektů zahrnujících generativní modely světa a samo-vylepšující se systémy.

Jedním z příkladů, o kterém Socher hovoří, je “rainbow teaming,” koncept bezpečnosti umělé inteligence, kde jeden systém umělé inteligence neustále útočí a testuje jiný systém umělé inteligence, aby odhalil slabosti. Místo toho, aby se spoléhalo na lidi, aby ručně testovali škodlivé edge případy, dva systémy umělé inteligence efektivně evoluují proti sobě během milionů iterací.

Tato myšlenka odráží širší posun, který se děje v oblasti výzkumu umělé inteligence: použití systémů umělé inteligence samy o sobě jako části tréninku, hodnocení a bezpečnostní infrastruktury.

Compute může se stát definujícím zdrojem

Spuštění Rekursivní superinteligence také zdůrazňuje další rostoucí realitu v oblasti umělé inteligence: rostoucí důležitost výpočetní infrastruktury.

Jak se modely stávají více schopnými, náklady na trénink a požadavky na inferenci pokračují v exponenciálním růstu. Pokud se systémy rekursivního samo-vylepšování nakonec stanou životaschopnými, compute by mohl se stát ještě strategicky důležitějším, protože rychlost pokroku umělé inteligence by se stala přímo vázána na to, kolik procesorového výkonu lze alokovat pro samo-vylepšující se cykly.

Socher naznačil, že budoucí společnosti by mohly čelit obtížným rozhodnutím o tom, kam alokovat zdroje umělé inteligence, srovnatelné s rozhodnutím, které nemoci nebo vědecké problémy by měly dostat nejvíce výpočetního prostoru.

Toto rámci zdůrazňuje, jak infrastruktura umělé inteligence se stává stále více propojenou s geopolitikou, energetickými systémy, dodavatelskými řetězci polovodičů a národní konkurenceschopností.

Investoři pokračují ve sázení na týmy pro umělou inteligenci

Velikost kola financování je také pozoruhodná, vezmeme-li v úvahu, jak brzy je společnost ještě. Rekursivní superinteligence má údajně méně než 30 zaměstnanců a dosud nezveřejnila veřejný produkt, ale již dosáhla multibilionové valuace.

Kolo odráží širší trend v rizikovém kapitálu, kde elitní talent pro výzkum umělé inteligence se stal cennou třídou aktiv. Investoři čím dál více sázejí na týmy s hlubokou technickou kredibilitou, zejména na výzkumníky spojené s organizacemi jako OpenAI, DeepMind a Meta AI.

Ve mnoha ohledech se trh zdá se posunovat od financování softwarových produktů směrem k financování potenciálních průlomů v infrastruktuře inteligence samotné.

Ještě není jisté, zda se rekursivní samo-vylepšování nakonec ukáže jako životaschopné. Mnozí výzkumníci věří, že koncept by mohl transformovat vývoj umělé inteligence úplně, zatímco jiní argumentují, že technické bariéry zůstávají enormní.

Ale vznik Rekursivní superinteligence naznačuje, že někteří z nejvlivnějších výzkumníků v oboru nyní věří, že další fáze umělé inteligence nemusí zahrnovat pouze lidi, kteří budují chytrější modely. Místo toho to může zahrnovat systémy umělé inteligence, které se přímo účastní své vlastní evoluce.