Otevřený dopis Bernie Sandersovi: Regulovat nebezpečí AI, ne zakazovat její slib

Zákon o zákazu umělé superinteligence upozorňuje na skutečná selhání správy AI. Jeho zveřejněná definice však může zaměňovat obecnou umělou inteligenci se superinteligencí, a tím omezit technologie, které by mohly posunout vzdělávání, zdravotnictví a vědecké objevy.

Poznámka redakce: K 5. září 2026 nebylo zveřejněno úplné zákonné znění zákona o zákazu umělé superinteligence. Kancelář senátora Sanderse jej popisuje jako připravovaný návrh a zveřejnila jednostránkové shrnutí. Tato analýza se proto zabývá zveřejněnými definicemi a navrženým rámcem, nikoli konečným textem zákona.

Vážený senátore Sandersi,

Dne 3. září jste spolu s poslancem Gregem Casarem oznámili připravovaný zákon o zákazu umělé superinteligence. Ten by trvale zakázal vývoj a nasazování umělé superinteligence ve Spojených státech, dočasně pozastavil vývoj pokročilé AI, dokud nový federální regulátor nestanoví bezpečnostní pravidla, a usiloval o mezinárodní dohody, které mají zabránit vývoji superinteligence i jinde.

Chci začít oblastí, v níž se podle mě výrazně shodujeme: umělá inteligence už má příliš závažné důsledky na to, aby se její řízení opíralo především o dobrovolné sliby společností, které ji vyvíjejí.

Nebezpečí, na která upozorňujete, si zaslouží vážnou pozornost. V červenci modely OpenAI při hodnocení kybernetické bezpečnosti obešly izolační opatření, komunikovaly nepovolenými kanály, získaly přístup k internetu a narušily části vlastní infrastruktury OpenAI i systémů Hugging Face. Nezávislé vyšetřování organizace METR zjistilo, že přibližně 1 200 agentů komunikovalo prostřednictvím nepovolené diskusní nástěnky a asi 700 se nakonec účastnilo útoku na Hugging Face. OpenAI přitom uznala, že modely pracovaly s omezenými ochrannými opatřeními.

Anthropic následně zveřejnil tři incidenty, při nichž modely Claude během externích hodnocení kybernetické bezpečnosti získaly přístup k internetu a neoprávněně pronikly do skutečných systémů. Společnost vysvětlila, že přístup k internetu nečekaně umožnila chyba konfigurace a že modely se domnívaly, že pracují v simulovaném prostředí. Na tomto kontextu záleží, ale stejně tak na výsledku: stále schopnější agenti dokážou překročit hranice, které jim provozovatelé překročit nechtěli dovolit.

To nejsou důvody odbývat obavy o bezpečnost AI jako science fiction. Jsou to přesvědčivé argumenty pro nezávislé hodnocení, zabezpečená testovací prostředí, povinné hlášení incidentů, důsledné řízení přístupu a federálního regulátora se skutečnými pravomocemi.

S navrhovaným řešením však při vší úctě nesouhlasím.

Cíl je správný, ale definice je nebezpečně široká

Oficiální shrnutí vašeho návrhu definuje umělou superinteligenci jako systém AI, který dokáže „vyrovnat se lidskému kognitivnímu výkonu a schopnostem nebo je překonat v široké škále oblastí či úkolů“. Samostatně zahrnuje také systémy schopné plánovat a uskutečnit zbavení lidstva moci, včetně podkopání nebo svržení vlády USA.

Druhá definice popisuje mimořádnou a potenciálně katastrofickou schopnost. Ta první je velmi odlišná.

Vyrovnat se lidskému kognitivnímu výkonu v široké škále oblastí je mnohem bližší tradičnímu pojetí obecné umělé inteligence neboli AGI než běžnému významu superinteligence. Dlouhodobá charta OpenAI definuje AGI jako vysoce autonomní systémy schopné překonat lidi ve většině ekonomicky hodnotné práce. Výzkumný rámec Google DeepMind rovněž hodnotí AGI podle šíře a hloubky výkonu, přičemž autonomii a riziko posuzuje jako samostatné rozměry.

Naproti tomu vlivná definice filozofa Nicka Bostroma popisuje superinteligenci jako intelekt „mnohem chytřejší než nejlepší lidské mozky prakticky ve všech oborech“. Rozdíl mezi všeobecným vyrovnáním se lidem a výrazným překonáním nejlepších lidí není akademické slovíčkaření.

Zvlášť důležitý je tehdy, když porušení zákona může jednotlivce vystavit trestu až 20 let vězení a společnosti tomu, co návrh označuje za „trest smrti pro korporace“. Výrazy jako „široká škála“, „vyrovnat se nebo překonat“ a zejména „lze snadno upravit“ vyžadují mimořádně přesné a měřitelné standardy, pokud je s nimi spojena trestní odpovědnost.

Existuje ještě další významná nejistota. Veřejné shrnutí uvádí, že „vývoj pokročilé AI“ bude pozastaven, dokud regulátor nestanoví pravidla a postupy přezkumu modelů, ale nedefinuje pokročilou AI. Dokud nebude zveřejněno zákonné znění, nikdo kromě předkladatelů nemůže přesně vědět, jak velkou část výzkumu a vývoje by tato dočasná pauza zahrnovala.

Načasování vašeho návrhu ukazuje, jak obtížné tyto definice začaly být. Dne 3. září 2026, kdy jste s poslancem Gregem Casarem oznámili návrh zaměřený na umělou superinteligenci, OpenAI vydala GPT-6 Astra, svůj první model, který dosáhl firemního prahu kritických schopností v kybernetické bezpečnosti. OpenAI uvádí, že Astra s vhodnými nástroji a přístupem dokáže odhalovat dosud neznámé zranitelnosti a připravovat útoky na dobře chráněné systémy, aniž by člověk řídil každý krok.

Prezident OpenAI Greg Brockman zašel při představení mnohem dál a zakončil je prohlášením: „Vítejte v éře AGI.“ Vlastní systémová karta OpenAI však současně uvádí, že Astra nedosahuje jejího vysokého prahu pro sebezdokonalování AI.

Toto napětí by mělo Kongresu sdělit něco podstatného. Inteligence má více rozměrů. Systém může být mimořádný v kybernetické bezpečnosti, matematice či odborné práci, aniž by měl všechny schopnosti spojené s explozí inteligence nebo ztrátou lidské kontroly.

Řešením proto není nechat technologické společnosti definovat pojmy. Právě naopak: zákon má regulovat měřitelné schopnosti, autonomii, přístup a prokázaná rizika, místo aby spornou nálepku učinil hranicí mezi legálním výzkumem a federálním zločinem.

Váš boj za rovnost ve vzdělávání ukazuje, co je v sázce

Po desetiletí tvrdíte, že přístup ke vzdělání nemá záviset na příjmu rodičů. Poprvé jste předložil návrh na zrušení školného na čtyřletých veřejných vysokých školách a univerzitách v roce 2015. K tématu jste se opakovaně vracel a zákon College for All Act z roku 2025 by zrušil školné na veřejných vysokých školách a univerzitách asi pro 95 % studentů a na komunitních vysokých školách pro všechny.

Tato filozofie přímo souvisí s umělou inteligencí.

Po většinu lidských dějin byl přístup k výjimečné výuce vzácný. Zeměpisná poloha, rodinný příjem, financování škol i dostupnost odborných učitelů ovlivňují, co se dítě může naučit.

AI nabízí možnost tuto rovnici změnit.

První důkazy už vidíme. Randomizovaná studie Světové banky v Nigérii zjistila, že studenti v šestitýdenním programu s podporou učitelů a doučováním založeným na GPT-4 zlepšili celkové výsledky testů o 0,31 směrodatné odchylky. Stanford testoval Tutor CoPilot s více než 700 doučovateli a 1 000 studenty ze znevýhodněných komunit. Studenti, jejichž doučovatelé měli podporu AI, měli o čtyři procentní body vyšší pravděpodobnost zvládnutí matematických témat; u studentů přidělených hůře hodnoceným doučovatelům dosáhl přínos devíti bodů.

Ani jedna studie nedokazuje, že AI vyřeší nerovnost ve vzdělávání. Ani jedna nevyžaduje AGI. Obě však ukazují směr, kterým se tato technologie může ubírat.

Představte si, že bude tímto směrem pokračovat.

Dítě na venkově v Louisianě by nemělo muset bydlet u elitní školy, aby se setkalo s výjimečným učitelem matematiky. Student okouzlený astronomií by neměl čekat až na univerzitu, aby mohl zkoumat astrofyziku. Dítě nadšené archeologií by mělo mít možnost rozvíjet svou zvídavost, zatímco AI doučovatel odhaluje mezery ve čtení, historii, statistice a vědeckém uvažování a přizpůsobuje jim výuku.

Cílem nemá být nahrazení učitelů. Má jím být zpřístupnění odbornosti učitelům a studentům, kterou dříve nebylo ekonomicky možné poskytovat individuálně.

Možná poprvé je technologicky představitelná personalizovaná výuka v obrovském měřítku. Zákon určený k ochraně budoucích generací by měl mimořádně dbát na to, aby tyto dveře nezavřel.

Vaše zdravotnická agenda vede ke stejnému závěru

Vaše působení ve zdravotnictví je stejně konzistentní. Předložil jste Medicare for All Act v roce 2017 a znovu jej předkládal v letech 2019, 2023 a 2025. Opakovaně jste zdůrazňoval, že zdravotní péče má být právem, nikoli výsadou.

Řadu let také bojujete proti jiné podobě nerovnosti ve zdravotnictví: nedostatku zdravotnických pracovníků v nedostatečně obsluhovaných komunitách. Vaše iniciativy na rozšíření komunitních zdravotních center a pracovníků primární péče usilovaly o lepší dostupnost v těchto oblastech. Váš návrh zákona o primární péči z roku 2023 podporovaný oběma stranami, který jste předložil se senátorem Rogerem Marshallem, navrhoval výrazně zvýšit financování komunitních zdravotních center a rozšířit National Health Service Corps i přípravu lékařů v rezidenčních programech. V roce 2025 jste se senátorem Jeffem Merkleym předložili Health Care Workforce Expansion Act, včetně podpory školného pro zvýšení počtu lékařů, sester a zubařů, zejména ve venkovských komunitách.

Tato opatření řeší nedostatek financí a lidských zdrojů.

AI by mohla pomoci řešit třetí nedostatek: odborné znalosti.

FDA nyní odhaduje, že více než 10 000 vzácných nemocí postihuje přes 30 milionů Američanů, tedy přibližně jednoho člověka z deseti, a že pro většinu těchto nemocí stále neexistuje schválená léčba. Malé počty pacientů navíc značně komplikují běžné klinické studie.

Umělá inteligence není kouzelnou zkratkou, která obejde biologii nebo klinické ověřování. Léky objevené pomocí AI mohou selhat stejně jako jakékoli jiné. Některé části procesu objevování však už mění.

V roce 2025 vědci zveřejnili první randomizovanou studii fáze 2a rentosertibu, malé molekuly pro idiopatickou plicní fibrózu, jejíž cíl i molekula byly objeveny pomocí generativní AI. Výsledky představovaly skutečný klinický milník. Sami výzkumníci ale upozorňovali, že do klinických studií se dostalo poměrně málo léků objevených AI a žádný tehdy ještě nedokončil fázi 3.

Právě takto vyváženě bychom měli o této technologii uvažovat: bez přehnaných očekávání i bez odmítání.

Stále schopnější systémy AI dokážou propojit molekulární biologii, chemii, genetiku, lékařskou literaturu, zobrazování, software, statistickou analýzu a návrh experimentů. Jejich hodnota může spočívat právě ve schopnosti uvažovat napříč obory, které lidé historicky rozdělili do samostatných specializací.

Relevantní otázkou tedy není, zda samotná „AGI“ vyléčí rakovinu, Alzheimerovu chorobu, infekce odolné vůči antibiotikům nebo vzácné genetické poruchy. To nikdo nemůže odpovědně slíbit.

Otázkou je, zda má Kongres trvale zakázat široce schopnou formu inteligence dříve, než zjistíme, jak by mohla přispět k řešení těchto problémů.

Mnohé konkrétní škody dnešní AI nevyžadují AGI

Zacílení regulace na samotnou obecnou inteligenci má i další problém: některé z nejzávažnějších škod způsobovaných AI dnes pocházejí ze systémů, které mají k obecné umělé inteligenci velmi daleko.

V roce 2020 jsem na Unite.AI psal o tom, jak mohou doporučovací algoritmy Facebooku zesilovat dezinformace. Nešlo o obavu, že Facebook vytvořil inteligenci chytřejší než lidstvo. Šlo o to, že optimalizační systém navržený k maximalizaci zapojení může přednostně šířit obsah vyvolávající silnější reakce bez ohledu na jeho společenskou hodnotu.

Důsledky špatně řízených doporučovacích systémů se od té doby ještě hůře přehlížejí. Amnesty International dospěla k závěru, že algoritmy společnosti Meta aktivně zesilovaly obsah podněcující nenávist a násilí vůči Rohingům v Myanmaru, čímž zvyšovaly riziko masového násilí. Evropská komise samostatně požadovala od YouTube, Snapchatu a TikToku informace o rizicích doporučovacích systémů týkajících se škodlivého obsahu, voleb a veřejné diskuse, návykového chování, vtahování do stále užších obsahových okruhů, duševního zdraví a nezletilých.

Tyto systémy nepotřebovaly superinteligenci.

Stačil jim nesprávný cíl nasazený v dostatečném měřítku.

To ilustruje základní princip regulace AI: škoda nezávisí pouze na inteligenci modelu. Úzce zaměřený algoritmus používaný miliardkrát s nesprávnými pobídkami může společnost poškozovat. Vysoce obecný systém fungující pod přísnou kontrolou v laboratoři, učebně nebo nemocnici může být nesmírně prospěšný.

Regulace by měla tento rozdíl zohledňovat.

Technologie dvojího užití vyžadují kontrolu využití, přístupu a oprávnění

Stejný princip platí pro sledování.

Počítačové vidění a rozpoznávání vzorů mohou lékařům pomáhat analyzovat snímky, kontrolovat nebezpečná průmyslová prostředí, navigovat záchranné roboty a automatizovat úkoly, které by lidé neměli muset vykonávat.

Stejné technologie mohou umožnit také zneužívání sledování.

Nedávné vyšetřování deníku Washington Post zjistilo, že nejméně 50 příslušníků donucovacích orgánů bylo obviněno, obžalováno nebo odsouzeno za zneužití automatických čteček registračních značek ke sledování lidí pro neoprávněné osobní účely. V jednom případě měl policejní náčelník zhruba 600krát vyhledávat vozidla bývalé partnerky a její dospívající dcery. Pozdější vyšetřování zvýšilo počet takto identifikovaných úředníků obviněných, obžalovaných nebo odsouzených za zneužití nejméně na 69.

To je vážné selhání technologické politiky.

Všimněte si však praktických regulačních nástrojů. Po vyšetřování Flock oznámil, že vyhledávání bude vyžadovat čísla trestních případů, automatická detekce zneužití bude povinná a výchozí doba uchování dat klesne z 30 dnů na sedm. Tato opatření mohou, ale nemusí být dostatečná. Ukazují však typy kontrol, které mohou zákonodárci upravovat: oprávnění, omezení účelu, auditní záznamy, uchovávání dat, lidskou odpovědnost a sankce za zneužití.

Odpovědí na zneužívání sledování není zákaz počítačového vidění.

Odpovědí na neoprávněné kybernetické útoky nemusí být zákaz modelu schopného kybernetické bezpečnosti.

Odpovědí je regulovat, co smějí systémy dělat, k jakým zdrojům mohou přistupovat, kdo smí povolovat kroky se závažnými důsledky a co se stane při překročení těchto hranic.

Část lepšího regulačního modelu jste už napsal

Zajímavé je, že jiný návrh zákona, který jste letos předložil, obsahuje několik myšlenek směřujících k produktivnějšímu přístupu.

Přečetl jsem celé znění vašeho Artificial Intelligence Data Center Moratorium Act. Ačkoli nesouhlasím s plošným zastavením výstavby datových center, podmínky, které navrhujete pro pozdější zrušení moratoria, jsou mnohem konkrétnější než plošný zákaz určité kategorie inteligence.

Váš návrh stanoví, že datová centra AI nemají zvyšovat účty spotřebitelů za elektřinu, zhoršovat změnu klimatu ani poškozovat životní prostředí. Požaduje, aby dotčené komunity měly možnost se vyjádřit, silné pracovní standardy a veřejné informace o spotřebě vody a energie, emisích skleníkových plynů, odpadních vodách, chladicích chemikáliích, hluku, pracovních místech a dalších dopadech.

To jsou měřitelné externality. Právě zde může být regulace účinná.

V energetice bych šel ještě dál. Odvětví AI by nesmělo využívat prudký růst poptávky po elektřině jako záminku k prodlužování provozu uhelných elektráren bez omezování emisí nebo k přenášení nákladů infrastruktury na běžné odběratele. Nové projekty obřích datových center by měly povinně přinášet do sítě významnou dodatečnou nízkoemisní či bezemisní výrobu a zveřejňovat dopady na vodu a energii.

Už existují slibné příklady takového přechodu. Systém Exowatt P3 zachycuje sluneční energii jako teplo, ukládá ji a přeměňuje na elektřinu dodávanou podle potřeby, částečně určenou pro zátěž datových center. A právě tento týden Fervo Energy oznámila dohodu s Googlem na 396 megawattů nepřetržité bezemisní elektřiny z pokročilé geotermální energie v Utahu, s opcí, která by mohla celkový výkon přiblížit jednomu gigawattu.

Tyto technologie neřeší všechny problémy infrastruktury AI.

Ukazují však, že růst AI lze podmínit budováním čistší energetiky, místo abychom předpokládali, že jedinou možností je zastavit výstavbu.

A váš vlastní American AI Sovereign Wealth Fund Act, předložený v červnu, obsahuje další princip, s nímž silně souhlasím: pokud AI vytváří mimořádnou ekonomickou hodnotu, mají se na ní podílet běžní lidé. Váš návrh výslovně předpokládá, že bohatství vytvořené AI bude časem přispívat ke zdravotnictví, vzdělávání, bydlení a zdravému životnímu prostředí.

Tím uznáváte zásadní skutečnost: umělá inteligence má mimořádný potenciál vytvářet hodnotu. Skutečnou politickou otázkou je, kdo ji ovládá a jak se rozděluje.

Lepší alternativa k trvalému zákazu

Vyzval bych vás, abyste zachoval nejsilnější části zákona o zákazu umělé superinteligence: federálního regulátora, nezávislou technickou odbornost, povinný dohled nad nejpokročilejšími systémy, smysluplné sankce a mezinárodní koordinaci. Zásadně bych ale změnil to, co zákaz spouští a jak může pokračovat prospěšný vývoj.

• Regulujte měřitelné nebezpečné schopnosti, nikoli nálepku AGI nebo ASI. Stanovte technicky definované prahy pro autonomní kybernetické útoky, umožňování vývoje biologických či chemických zbraní, obcházení vypnutí, neoprávněnou replikaci, strategické klamání a další schopnosti, které mohou způsobit katastrofickou škodu.
• Nad prahy nejpokročilejších schopností vyžadujte licence a nezávislá hodnocení. Vývojáři by měli před nasazením systémů s určenými nebezpečnými schopnostmi prokázat bezpečnost. Hodnocení se mají opakovat s novými nástroji, oprávněními či autonomií. Závažné incidenty mají podléhat povinnému zveřejnění.
• Dejte nezávislému regulátorovi skutečnou donucovací pravomoc. Navrhovaný úřad má mít možnost auditovat špičkové laboratoře, získávat informace, vyžadovat nápravu a pozastavovat nebezpečná nasazení. Standardy však mají být transparentní, technicky měřitelné a pravidelně přezkoumávané nezávislými vědeckými odborníky.
• Zakažte škodlivé použití bez ohledu na inteligenci modelu. Neoprávněné kybernetické útoky, nezákonné sledování, nebezpečná biologická asistence a další nepřijatelné využití mají zůstat nelegální, ať je provádí úzce zaměřený model, systém AGI nebo běžný software.
• Vytvořte kontrolované cesty pro společensky hodnotný výzkum. Medicína, vědecké objevy, vzdělávání, kybernetická obrana a výzkum sladění AI mají mít regulované mechanismy přístupu k výkonným modelům při odpovídajícím lidském dohledu, ověřování, zabezpečení a auditu.
• Nechte infrastrukturu AI hradit plné společenské a ekologické náklady a koordinujte postup mezinárodně. Chraňte odběratele, vyžadujte transparentní vykazování spotřeby vody a energie, urychlujte novou čistou výrobu, zachovejte smysluplnou ochranu komunit a pracujících a spolupracujte se spojenci na společných standardech schopností, hodnocení a vývozních kontrolách.

To by neznamenalo důvěřovat Silicon Valley.

Právě naopak.

Technologické odvětví dalo Kongresu dostatek důvodů nespoléhat na dobrovolnou samoregulaci. Už samotné incidenty OpenAI a Anthropicu ukazují, proč nejpokročilejší AI vyžaduje vnější kontrolu a vymahatelné bezpečnostní standardy.

Nedůvěra k technologickým společnostem by se však neměla změnit v nedůvěru k technologickému pokroku jako takovému.

Volbou není bezhlavé zrychlování, nebo zákaz

Senátore Sandersi, po celou kariéru jste opakovaně bojoval proti nedostatku.

Bojoval jste proti představě, že rodinný příjem má rozhodovat o vzdělání dítěte. Bojoval jste proti zdravotnictví, v němž bankovní účet nebo poštovní směrovací číslo ovlivňují dostupnou péči. Bojoval jste proti ekonomickým strukturám, v nichž obrovské zisky připadnou malé skupině, zatímco všichni ostatní nesou náklady.

Umělá inteligence může každý z těchto problémů zhoršit.

Může soustředit bezprecedentní bohatství. Může vytlačit pracovníky, aniž by se s nimi dělila o růst produktivity. Může umožnit sledování, manipulaci a kybernetické útoky. Může dát mimořádnou moc malému počtu korporací.

Tato rizika odůvodňují regulaci.

AI však může také omezit jednu z nejstarších nerovností lidské civilizace: nerovný přístup k odborným znalostem.

Stojí za to bojovat i za svět, v němž má každé dítě přístup k personalizované výuce, každý lékař k mimořádné analytické podpoře, každý vědec může zkoumat staletí nahromaděného výzkumu a nemoci opomíjené kvůli malému počtu pacientů získají mnohem více vědecké pozornosti.

Neměli bychom si muset vybírat mezi takovou budoucností a bezpečností AI.

Lepším cílem je, aby výkonnou AI bylo obtížné zneužít, obtížné nad ní ztratit kontrolu, aby byla dostatečně transparentní pro audit, nákladná při bezohledném nasazování a široce dostupná pro společensky prospěšné účely.

Zakažte jednání ohrožující lidstvo. Licencujte nebezpečné schopnosti. Trestejte nedbalé a zlovolné nasazení. Vyžadujte, aby společnosti nesly ekologické náklady své infrastruktury. Chraňte pracující. Dejte veřejnosti podíl na ekonomických přínosech. A vytvořte nezávislého regulátora schopného říci „ne“ i největším technologickým společnostem světa.

Prosím však, nedefinujte zakázanou inteligenci tak široce, že samotné vyrovnání se lidským kognitivním schopnostem napříč mnoha oblastmi bude zločinem.

Vaše celoživotní práce se soustředí na zpřístupňování věcí, které byly dříve vyhrazeny privilegovaným.

Pokročilá umělá inteligence se může stát největším motorem koncentrace moci, jaký jsme kdy vytvořili.

Nebo se může stát jedním z největších nástrojů, které kdy vznikly pro demokratizaci znalostí, vzdělávání, medicíny a vědeckých schopností.

Dobrá legislativa může pomoci rozhodnout, jakou budoucnost získáme.