Nová iniciativa OpenAI: Řízení superinteligentní umělé inteligence správným směrem

OpenAI, přední hráč na poli umělé inteligence, nedávno oznámil vytvoření specializovaného týmu pro řízení rizik spojených se superinteligentní AI. Tento krok přichází v době, kdy vlády na celém světě uvažují o tom, jak regulovat vznikající technologie umělé inteligence.

Pochopení superinteligentní AI

Superinteligentní umělá inteligence označuje hypotetické modely umělé inteligence, které předčí nejnadanější a nejinteligentnější lidi v mnoha oblastech odbornosti, nikoli pouze v jedné doméně jako některé modely předchozí generace. OpenAI předpovídá, že by se takový model mohl objevit do konce dekády. Organizace věří, že superinteligence by mohla být nejpůsobivější technologií, jakou kdy lidstvo vynalezlo, a potenciálně nám může pomoci vyřešit mnoho nejnaléhavějších problémů světa. Obrovská síla superinteligence by však také mohla představovat značná rizika, včetně potenciální ztráty moci lidstva nebo dokonce lidského vyhynutí.

Tým Superalignment společnosti OpenAI

Pro řešení těchto obav vytvořil OpenAI novýSuperzarovnánítým, společně vedený hlavním vědcem OpenAI Ilyou Sutskeverem a Janem Leikem, vedoucím zarovnání výzkumné laboratoře. Tým bude mít přístup k 20 % výpočetního výkonu, který OpenAI aktuálně zajišťuje. Jejich cílem je vyvinout automatizovaného výzkumného pracovníka pro zarovnání, systém, který by mohl pomoci OpenAI při zajišťování bezpečného používání superinteligence a v souladu s lidskými hodnotami.

I když OpenAI uznává, že jde o neuvěřitelně ambiciózní cíl a úspěch není zaručen, organizace zůstává optimistická. Předběžné experimenty se ukázaly být slibné a jsou k dispozici stále užitečnější metriky pokroku. Kromě toho lze k empirickému studiu mnoha z těchto problémů použít současné modely.

Potřeba regulace

Vytvoření týmu Superalignment přichází v době, kdy vlády po celém světě zvažují, jak regulovat vznikající průmysl AI. Generální ředitel OpenAI, Sam Altman, se v posledních měsících setkal s nejméně 100 federálními zákonodárci. Altman veřejně prohlásil, že regulace umělé inteligence je „zásadní“ a že OpenAI „chtí“ spolupracovat s tvůrci politik.

Je však důležité přistupovat k takovým proklamacím s jistou mírou skepse. Zaměřením pozornosti veřejnosti na hypotetická rizika, která se nemusí nikdy naplnit, by organizace jako OpenAI mohly potenciálně přesunout břemeno regulace do budoucnosti, spíše než řešit okamžité problémy kolem umělé inteligence a práce, dezinformací a autorských práv, se kterými se dnes tvůrci politik musí vypořádat.

Iniciativa OpenAI vytvořit specializovaný tým pro řízení rizik superinteligentní umělé inteligence je významným krokem správným směrem. Zdůrazňuje důležitost proaktivních opatření při řešení potenciálních problémů, které představuje pokročilá umělá inteligence. Jak pokračujeme v procházení složitostí vývoje a regulace umělé inteligence, iniciativy jako tato slouží jako připomínka potřeby vyváženého přístupu, který využívá potenciál umělé inteligence a zároveň chrání před jejími riziky.