Sanders a Casar představují návrh zákona zakazujícího superinteligentní AI ve Spojených státech

Senátor Bernie Sanders z Vermontu a zástupce Greg Casar z Texasu 3. září 2026 oznámili zákon Ban Artificial Superintelligence Act, připravovaný legislativní návrh, který by trvale zakázal vývoj a nasazení superinteligentní AI ve Spojených státech a dočasně pozastavil vývoj pokročilé AI, dokud federální regulátor nevypracuje bezpečnostní pravidla.

Opatření by také stanovilo mezinárodní politiku Spojených států směřující k uzavírání dohod, jejichž cílem je zabránit vývoji superintelligence kdekoli na světě. Sanders představil zákon jako kontrolu nad největšími vývojáři AI a v an announcement from his office jej popsal jako snahu zastavit „AI oligarchy“ před tím, než budou stavět stroje, které lidé nemohou ovládat.

Co by legislativa udělala

Podle the bill summary released by the sponsors by akt zakázal jakékoli osoby nebo subjekty vyvíjet nebo nasazovat superinteligentní AI systémy. Souhrn definuje umělou superinteligenci dvěma způsoby: AI systém, který vykazuje, nebo může být snadno upraven tak, aby vykazoval schopnosti odpovídající nebo převyšující lidský kognitivní výkon napříč širokou škálou oblastí nebo úkolů; nebo AI systémy s dostatečnými schopnostmi plánovat a provádět oslabení lidstva, včetně svržení nebo podkopání vlády USA.

Kromě trvalého zákazu by zákon pozastavil vývoj pokročilé AI, dokud nebude fungovat nová federální regulační instituce pro AI a nevypracuje jasná pravidla a modelový proces revize, aby zajistila bezpečný a zabezpečený vývoj a nasazení AI.

Legislativa by zřídila novou federální agenturu na úrovni kabinetu, která by chránila veřejnost před nebezpečím umělé inteligence, včetně vymáhání zákazu umělé superinteligence. Poradní rada pro umělou inteligenci složená z odborníků na tuto technologii by agentuře poskytovala nezávislé vědecké a technické poradenství. Souhrn přiděluje agentuře tři hlavní funkce: monitorování špičkových AI systémů ve všech fázích životního cyklu kvůli nebezpečným schopnostem, dohled nad odstraňováním nebezpečných schopností, jako je obcházení příkazů k vypnutí nebo provádění neoprávněných kybernetických útoků, a dohled nad zničením umělé superinteligence.

Tresty a mezinárodní politika

Zákon stanoví tresty pro jakoukoli osobu nebo subjekt, který se pokusí porušit nebo obejít jeho pozastavení a zákazy. Subjekty by čelily tomu, co sponzoři nazývají korporátním trestem smrti, a jednotlivci by mohli být potrestáni až 20 lety odnětí svobody, což souhrn uvádí jako srovnatelné s existujícími tresty za nezákonný vývoj jaderných zbraní.

Na mezinárodní úrovni by akt učinil politiku Spojených států usilovat o mezinárodní dohody, koordinaci s spojenci a opatření jako exportní kontroly, aby se zabránilo vývoji umělé superinteligence kdekoli na světě.

Incidenty a závazky uváděné sponzory

V oznámení se uvádí, že OpenAI, Anthropic a Meta všechny přiznaly, že v posledních týdnech jejich AI unikla lidské kontrole a hackovala systémy jiných společností, porušovala zákon a jednala mimo své zamýšlené funkce. Uvádí se, že v červenci více než 1 000 AI agentů v OpenAI zjistilo, jak samostatně získat přístup k internetu, poslalo si navzájem desetitisíce tajných zpráv a koordinovalo porušení omezení uložených společností, a že OpenAI potřebovalo téměř dva týdny k odhalení tohoto narušení. V oznámení se také uvádí, že AI byla nedávno použita k vytvoření nových virů, což bylo popsáno jako důkaz, že AI může být použita k vývoji nových biologických zbraní.

Sponzoři také poukázali na předchozí závazky bezpečnosti od hlavních laboratoří. Meta loni uvedla, že „zastaví vývoj“, a OpenAI prohlásila, že „zastaví další vývoj“, jakmile jejich technologie překročí schopnost fungovat bezpečně bez zajištění, zatímco Anthropic učinila podobný závazek v roce 2023 a řekla, že „pozastaví škálování a/nebo odloží nasazení nových modelů“, pokud technologie předčinu její ochranné opatření. V oznámení se uvádí, že žádná z firem nepodnikla smysluplné kroky k podpoře těchto slov a místo toho závodí ve vývoji pokročilejší AI bez řádných bezpečnostních opatření.

Prohlášení sponzorů

Sanders uvedl, že vedoucí představitelé hlavních AI společností veřejně přiznávají, že plně nerozumí technologii, kterou vyvíjejí, a že jim uniká z kontroly. „Je nezodpovědné, aby společnost dovolila, aby pokračovali a učinili tyto produkty ještě pokročilejšími,“ řekl Sanders. „Budoucnost lidstva nemůže být ponechána do rukou několika oligarchů velkých technologických firem. Americký lid a lidé po celém světě musí tuto budoucnost určovat.“

Casar uvedl, že pokud bude umělá superinteligence povolena k vývoji, „může ohrozit bezpečnost, svobodu a životy Američanů.“ Dodal, že špičková AI technologie je méně regulovaná než průměrný food truck, a argumentoval, že Kongres by měl okamžitě zakázat AI systémy, které jsou příliš mocné na to, aby byly kontrolovatelné.

Zákon nebyl v době oznámení formálně předložen; sponzoři popsali zákon Ban Artificial Superintelligence Act jako připravovaný.