Umělé inteligence, která se sama učí, již není sci-fi

Vývojové rámce umělé inteligence se pohybují směrem k radikálnímu skoku: strojům, které se samy zlepšují, bez lidského vhledu.

Po mnoho let zůstávaly i ty nej pokročilejší modely umělé inteligence pasivními motory, předpovídajícími odpovědi na základě trénovacích dat, která nemohly změnit. Ale dnes již není velikost modelu tím, co definuje další kapitolu umělé inteligence; je to schopnost modelu evoluce sám od sebe.

Nedávno výzkumníci z MIT představili nový rámec umělé inteligence nazvaný Self-Adapting LLMs (SEAL). Tento přístup umožňuje velkým jazykovým modelům (LLM) zlepšovat se autonomně, umožňující umělé inteligenci diagnostikovat své omezení a trvale aktualizovat své vlastní neuronové váhy prostřednictvím interní zpětné vazby poháněné učení s posilováním. Místo toho, aby vyžadovali, aby výzkumníci našli chyby, napsali nové podněty nebo vložili další příklady, model přebírá plnou odpovědnost za svou evoluci.

„Velké jazykové modely (LLM) jsou silné, ale statické; postrádají mechanismy pro adaptaci svých vah v reakci na nové úkoly, znalosti nebo příklady,“ napsali výzkumníci z MIT v blogovém příspěvku. „Experimenty na začlenění znalostí a few-shot generalizaci ukazují, že SEAL je slibný krok směrem k jazykovým modelům schopným sebeřízené adaptace v reakci na nová data.“

V raných testech umožnil tento sebeeditační cyklus modelům přecházet z úplného selhání na úspěch v komplexních abstraktních rozumových hádankách, překonávajících i mnohem větší modely, jako je GPT-4.1, s úspěšností 72,5 %, zatímco tradiční metody selhaly. Kromě toho SEAL údajně snižuje lidský dohled o 85 % a zvyšuje přesnost a adaptabilitu.

Vzestup samo-učících se rámců umělé inteligence

SEAL je součástí širšího trendu směrem k autonomní strojové inteligenci. Výzkumníci ze Sakana AI, například, představili Darwin-Gödel Machine—umělé inteligence, která přepisuje svůj vlastní kód pomocí otevřených evolučních strategií.

„Vytvoří různé sebe-vylepšení, jako je ověření opravy, lepší prohlížení souborů, vylepšené editační nástroje, generování a hodnocení více řešení pro výběr nejlepšího, a přidání historie toho, co bylo dříve vyzkoušeno (a proč selhalo), při vytváření nových změn,“ napsali výzkumníci ze Sakana AI v blogovém příspěvku.

Podobně mohou agenty Anthropic, napájené Claude 4, nyní autonomně orchestrovat pracovní postupy napříč kódy a obchodními nástroji.

„Systém, který se sám rekonfiguruje na základě typu aktiva, jeho prostředí a historie, umožňuje přecházet z reaktivní odpovědi na kontinuální prevenci,“ řekl mi Christian Struve, generální ředitel a spoluzakladatel Fracttal. „Není to o více vrstvách nebo parametrech, ale o více autonomních a užitečných systémech.“

To, co spojuje tyto úsilí, je základní víra: umělé inteligence nemusí být větší, aby byla chytřejší. Musí se stát více adaptivní.

„Škálování přineslo značné výhody, ale dosáhli jsme limitů toho, co velikost sama o sobě může dosáhnout. Sebe-adaptivní učící modely, jako je SEAL, nabízejí přesvědčivý další krok umožňující systémům růst a zlepšovat se over time,“ řekl mi Jorge Riera, zakladatel a generální ředitel plně integrované datové konzultační platformy Dataco. „Sebe-evoluční modely také mění metriky pokroku z statických benchmarků na míru adaptability, efektivity učení a bezpečného dlouhodobého zlepšení. Místo testování toho, co model zná při nasazení, můžeme vyhodnotit, jak dobře se učí, uchovává a vyvíjí over time.“

Dopad na ekosystém umělé inteligence a globální závod směrem k autonomii

Tento stupeň autonomie také přepisuje ekonomiku nasazení umělé inteligence. Představte si systémy pro detekci podvodů, které se aktualizují okamžitě, aby čelily novým hrozbám, nebo umělé inteligence, které mění svůj styl učení na základě chování studenta. V robotice by se samo-adaptivní rámce mohly vést k autonomním strojům, které se učí nové pohybové vzorce bez potřebného přeprogramování.

V celé střední Asii země, jako je Spojené arabské emiráty a Saúdská Arábie, rychle budují základní modely navržené pro adaptaci. Systém Falcon a G42’s Jais jsou otevřené LLM, vytvořené s regionální relevancí na mysli, zatímco Saúdská Arábie ALLaM a Aramco Digital’s Metabrain se pohybují do oblasti autonomních agentů umělé inteligence pro chytrá města, zdravotnictví a logistiku.

Tyto úsilí nejsou ještě ekvivalentní k MIT’s SEAL z hlediska sebeeditační schopnosti, ale odrážejí společnou trajektorii: z pasivních systémů umělé inteligence na aktivní, evoluční agenty, které mohou navigovat komplexitu s omezeným lidským vedením. A stejně jako SEAL, tyto iniciativy jsou podporovány robustními rámcemi governance, zdůrazňujícími rostoucí povědomí, že autonomie umělé inteligence musí být spárována se zodpovědností.

„Tento je první krok směrem k samo-řídícím se systémům, které mění svou logiku bez konstantního zásahu,“ říká Struve. „Věřím, že umělá inteligence nezpřetrhává, co je inteligence, ale nutí nás přehodnotit náš vztah s ní. Důležité není, zda se model vyvíjí, ale zda se vyvíjí v souladu s cíli, které definujeme jako lidé.“

Jeff Townes, technický ředitel Gorilla Logic, také zdůrazňuje důležitost governance, která musí držet krok s evolucí umělé inteligence: „Otázka není, zda umělá inteligence může evoluce — je to, zda podnik může evoluce s ní. Governance musí zakotvit každou adaptaci umělé inteligence na jasných výsledcích a KPI, které lídři mohou měřit a důvěřovat, aby inovace šly s důvěrou místo rizika.“

Jíme připraveni na umělou inteligenci, která přepisuje sama sebe?

Nejpříbuznější otázka, kterou SEAL vyvolává, není technická — je to, zda-li modely mohou rozhodnout, jak se učit, jakou roli hrajeme při formování jejich hodnot, priorit a směru?

Odborníci varují, že jakmile se samo-adaptivní systémy umělé inteligence získá autonomii, spěch směrem k sebe-vylepšení nesmí předcházet zavedení etických zábran. „Věřím, že všechny systémy umělé inteligence musí zahrnovat alespoň tři základní etické principy,“ říká Jacob Evans, technický ředitel Kryterion.

„První, a to může být samozřejmé, ale systémy umělé inteligence musí identifikovat sami sebe jako umělou inteligenci. Druhé, systémy umělé inteligence musí být zaměřeny na člověka, zvyšující a nenahrazující lidské úsudky. A konečně, musí uznat svá omezení a nejistoty, zatímco odmítají poskytovat informace, které by mohly usnadnit vážné poškození. Bez těchto zábran může umělá inteligence stát se nástrojem manipulace místo spolehlivé podpory.“

“Abychom mohli modely sebe-vylepšovat v produkci, potřebují dynamickou zpětnou vazbu, ne jen statické trénování. Silnou metodou je použití ‘digitálního dvojčete’ nebo sofistikovaného sandboxového prostředí, kde může umělá inteligence bezpečně testovat a ověřovat svá vlastní sebe-generovaná vylepšení, než jsou nasazena uživatelům,” sdílel Ganesh Vanama, inženýr počítačového vidění v Automotus.

Pokud jde o governance, Vanama dodal, „nezbytnou kontrolou je ‘člověk v smyčce’ dohled.“ Řekl, že zatímco chceme, aby modely se adaptovaly, „musíte mít kontinuální monitoring, aby detekovaly ‘posun směru’, kde se model odchyluje od svých zamýšlených cílů nebo bezpečnostních omezení. Tento systém musí dát lidskému auditorovi moc zrušit nebo okamžitě vrátit zpět jakoukoli autonomní aktualizaci, která selže při bezpečnostní nebo výkonové kontrole.“

Ale jiní odborníci věří, že je stále čas vyvinout tyto zábrany, argumentujíce, že postavení skutečně robustního, obecného, sebe-vylepšujícího se modelu umělé inteligence zůstává monumentální výzvou.

„Takové modely stále postrádají schopnost spolehlivě přeprogramovat sami sebe v reálném čase. Klíčové výzvy zahrnují prevenci posílení chyb, vyhnutí se katastrofickému zapomínání, zajištění stability během aktualizací a udržování transparentnosti kolem interních změn,“ říká Riera. „Dokud tyto problémy nebudou vyřešeny, plná sebe-řízená adaptace zůstává hranicí spíše než realitou.“

Výzkumníci z MIT považují SEAL za nutnou evoluci. Jako jeden z vedoucích vědců z MIT řekl, že tento rámec aktuálně pouze odráží lidské učení více než cokoliv, co přišlo předtím.

„Tyto systémy naznačují posun od statických, jednorázových modelů k adaptivním architekturám, které mohou se učit z zkušeností, spravovat paměť a sledovat cíle over time. Směr je jasný: směrem k modulární, kontextově-aware inteligenci schopné přizpůsobit se kontinuálně,“ řekl mi Riera. „Ačkoli stále v experimentální fázi, tento přístup představuje významný krok směrem k více autonomním a odolným systémům umělé inteligence.“

Zda to povede k více personalizovaným systémům nebo zcela novým formám strojové agentury, zůstává být viděno. Věková umělá inteligence, která se sama učí, přišla — a přepisuje více než jen svůj vlastní kód, přepisuje pravidla toho, co mohou stroje stát se.