Nová iniciativa OpenAI: Směřování superinteligentního AI správným směrem

OpenAI, přední hráč v oblasti umělé inteligence, nedávno oznámil vytvoření specializovaného týmu pro řízení rizik spojených se superinteligentním AI. Tento krok přichází v době, kdy vlády po celém světě diskutují o tom, jak regulovat vznikající AI technologie.

Pochopení superinteligentního AI

Superinteligentní AI se týká hypotetických AI modelů, které překračují schopnosti nejdarší a nejinteligentnějších lidí v mnoha oblastech odbornosti, nejen v jedné oblasti, jako některé předchozí generace modelů. OpenAI předpovídá, že takový model by mohl vzniknout před koncem desetiletí. Organizace věří, že superinteligence by mohla být nejvýznamnější technologií, kterou lidstvo kdy vynalezlo, a mohla by pomoci řešit mnoho z nejnaléhavějších problémů světa. Nicméně, obrovská síla superinteligence by také mohla představovat významná rizika, včetně potenciálního zbavení moci lidstva nebo dokonce vyhubení lidstva.

Tým Superalignment OpenAI

Pro řešení těchto obav vytvořil OpenAI nový tým „Superalignment“, který vede hlavní vědec OpenAI Ilya Sutskever a Jan Leike, vedoucí výzkumného laboratoře pro zarovnání. Tým bude mít přístup k 20 % výpočetního výkonu, který OpenAI目前 má k dispozici. Jejich cílem je vyvinout automatického výzkumníka zarovnání, systém, který by mohl pomoci OpenAI zajistit, aby superinteligence byla bezpečná a zarovnaná s lidskými hodnotami.

Ačkoli OpenAI uznává, že toto je neuvěřitelně ambiciózní cíl a úspěch není zaručen, organizace zůstává optimistická. Předběžné experimenty ukázaly slibné výsledky, a jsou k dispozici stále užitečnější metriky pro pokrok. Navíc, současné modely lze použít ke studiu mnoha z těchto problémů empiricky.

Potřebnost regulace

Vznik týmu Superalignment přichází v době, kdy vlády po celém světě zvažují, jak regulovat vznikající AI průmysl. CEO OpenAI, Sam Altman, se setkal s nejméně 100 federálními zákonodárci v posledních měsících. Altman veřejně prohlásil, že regulace AI je „nezbytná“ a že OpenAI je „ochotný“ spolupracovat s tvůrci politik.

Jedná se však o prohlášení, která je třeba brát s určitou skepsí. Zaměřením veřejného zájmu na hypotetická rizika, která se možná nikdy neuskuteční, organizace jako OpenAI by mohla potenciálně přesunout břemeno regulace do budoucna, místo aby řešila aktuální problémy kolem AI a práce, dezinformace a autorská práva, které politici potřebují řešit dnes.

Iniciativa OpenAI vytvořit specializovaný tým pro řízení rizik superinteligentního AI je významným krokem správným směrem. Podtrhuje důležitost proaktivních opatření při řešení potenciálních výzev, které představuje pokročilé AI. Když budeme pokračovat v navigaci komplexit AI vývoje a regulace, iniciativy jako tato slouží jako připomínka potřeby vyváženého přístupu, který využije potenciál AI a zároveň ochrání proti jeho rizikům.