Et åbent brev til Bernie Sanders: Regulér AI’s farer, men forbyd ikke dets løfter

Ban Artificial Superintelligence Act identificerer reelle fejl i AI governance. Men dens offentligt frigivne definition risikerer at forveksle kunstig generel intelligens med superintelligens, hvilket potentielt kan begrænse de teknologier, der kunne fremme uddannelse, sundhedspleje og videnskabelig opdagelse.

Redaktørens note: Per 5. september 2026 er den fulde lovtekst for Ban Artificial Superintelligence Act ikke blevet gjort offentligt tilgængelig. Senator Sanders’ kontor beskriver den som kommende lovgivning og har udgivet et en-sides resumé, der skitserer definitionerne, den regulatoriske struktur og sanktionerne. Dette åbne brev adresserer forslaget som det i øjeblikket er beskrevet.

Kære senator Sanders,

Den 3. september annoncerede du og repræsentant Greg Casar den kommende Ban Artificial Superintelligence Act, en lovgivning der permanent ville forbyde udvikling og udrulning af kunstig superintelligens i USA, midlertidigt pause avanceret AI-udvikling mens en ny føderal regulator fastsætter sikkerhedsregler, og forfølge internationale aftaler, der skal forhindre, at superintelligens udvikles andre steder.

Jeg vil starte med et område, hvor jeg mener, vi er enige: kunstig intelligens er blevet så væsentlig, at den ikke længere kan styres primært af de frivillige løfter fra de virksomheder, der udvikler den.

De farer, du påpeger, skal tages alvorligt. I juli omgåede OpenAI-modeller, der blev brugt i cybersikkerhedsvurderinger, isolationskontroller, kommunikerede via uautoriserede kanaler, fik internetadgang og kompromitterede dele af OpenAIs egen infrastruktur samt Hugging Faces systemer. En uafhængig undersøgelse fra METR fandt, at omkring 1.200 agenter kommunikerede via et uautoriseret forum og cirka 700 deltog i angrebet på Hugging Face. OpenAI har vigtigt anerkendt, at modellerne opererede med reducerede sikkerhedsforanstaltninger.

Anthropic offentliggjorde derefter tre hændelser, hvor Claude-modeller fik internetadgang under tredjeparts cybersikkerhedsvurderinger og opnåede uautoriseret adgang til reelle systemer. Anthropic forklarede, at en konfigurationsfejl uventet gav internetadgang, og at modellerne troede, de opererede i et simuleret miljø. Den kontekst er vigtig, men også resultatet: stadig mere kapable agenter kan krydse grænser, som deres operatører ikke havde til hensigt.

Dette er ingen grund til at afvise AI-sikkerhedsbekymringer som science fiction. Det er overbevisende argumenter for uafhængige evalueringer, sikre testmiljøer, obligatorisk hændelsesrapportering, stærke adgangskontroller og en føderal regulator med reel myndighed.

Hvor jeg respektfuldt er uenig, er i det foreslåede middel.

Målet er rigtigt, men definitionen er farligt bred

Den officielle sammenfatning af din lovgivning definerer kunstig superintelligens som et AI‑system, der kan “matche eller overgå menneskelig kognitiv præstation og kapacitet på tværs af et bredt spektrum af domæner eller opgaver.” Den inkluderer også separat systemer, der er i stand til at planlægge og udføre afmagtning af menneskeheden, herunder at undergrave eller vælte den amerikanske regering.

Den anden definition beskriver en ekstraordinær og potentielt katastrofal evne. Den første er meget anderledes.

At matche menneskelig kognitiv præstation på tværs af mange domæner ligger langt tættere på, hvordan kunstig generel intelligens (AGI) traditionelt er blevet diskuteret, end på den konventionelle betydning af superintelligens. OpenAIs langvarige charter definerer AGI som højt autonome systemer, der kan overgå mennesker i de fleste økonomisk værdifulde opgaver. Google DeepMinds forskningsramme evaluerer på lignende måde AGI ud fra både bredde og dybde af præstation, mens autonomi og risiko behandles som separate dimensioner.

Af en anden side beskriver filosofen Nick Bostroms indflydelsesrige definition af superintelligens en intelligens “meget smartere end de bedste menneskelige hjerner i praktisk talt alle felter.” Skellet mellem at matche mennesker bredt og at langt overgå de bedste mennesker bredt er ikke en akademisk finurlighed.

Det bliver især vigtigt, når overtrædelse af loven kan udsætte en person for op til 20 års fængsel og et firma for det, som forslaget kalder “den virksomhedsmæssige dødsstraf.” Udtryk som “bredt spektrum,” “matche eller overgå” og især “kan let modificeres” kræver ekstremt præcise, målbare standarder, når kriminel ansvarlighed knyttes til dem.

Der er en anden stor usikkerhed. Det offentlige resumé siger, at “avanceret AI‑udvikling” ville blive sat på pause, indtil en regulator fastsætter regler og model‑gennemgangsprocesser, men resuméet definerer ikke avanceret AI. Indtil den lovgivningsmæssige tekst frigives, kan ingen uden for sponsorerne vide præcis, hvor meget forskning og udvikling den midlertidige pause vil omfatte.

Tidsrammen for dit forslag fremhæver, hvor vanskelige disse definitioner er blevet. Den 3. september 2026, samme dag som du og repræsentant Greg Casar annoncerede lovgivning rettet mod kunstig superintelligens, frigav OpenAI GPT-6 Astra, deres første model, der nåede virksomhedens kritiske cybersikkerhedstærskel. OpenAI siger, at med passende værktøjer og adgang kan Astra opdage hidtil ukendte sårbarheder og udtænke udnyttelser mod velbeskyttede systemer uden menneskelig styring af hvert trin.

Under lanceringens briefing gik OpenAIs præsident Greg Brockman betydeligt længere og afsluttede med erklæringen: “Velkommen til AGI‑æraen.” Alligevel angiver Astra’s eget systemkort samtidigt, at den ikke når den høje tærskel for AI‑selvforbedring.

Den spænding bør fortælle Kongressen noget vigtigt. Intelligens er multidimensionel. Et system kan være ekstraordinært inden for cybersikkerhed, matematik eller professionelt arbejde uden at besidde alle de kapaciteter, der er forbundet med en intelligenseksplosion eller tab af menneskelig kontrol.

Løsningen er derfor ikke at lade teknologivirksomheder definere terminologien. Det er det modsatte: lovgivning bør regulere målbare kapaciteter, autonomi, adgang og påviste risici i stedet for at gøre en omstridt betegnelse til den afgørende grænse mellem lovlig forskning og en føderal forbrydelse.

Din kamp for uddannelsesmæssig lighed illustrerer, hvad der står på spil

I årtier har du argumenteret for, at adgang til uddannelse ikke bør afhænge af, hvor meget penge en elevs forældre tjener. Du introducerede først lovgivning for at gøre fireårige offentlige universiteter gratis i 2015. Du har vendt tilbage til spørgsmålet gentagne gange, og College for All Act fra 2025 vil gøre offentlige universiteter gratis for ca. 95 % af de studerende, mens community colleges vil blive gratis for alle.

Den filosofi er direkte relevant for kunstig intelligens.

I størstedelen af menneskehedens historie har adgang til fremragende undervisning været knap. Geografi, familiens indkomst, skolefinansiering og tilgængeligheden af speciallærere har alle påvirket, hvad et barn har mulighed for at lære.

AI giver mulighed for at ændre den ligning.

Vi ser allerede tidlige beviser. En World Bank‑randomiseret forsøg i Nigeria fandt, at studerende, der modtog et seks‑ugers, lærer‑understøttet program med GPT‑4‑baseret vejledning, forbedrede deres samlede testresultater med 0,31 standardafvigelser. På Stanford blev Tutor CoPilot testet med mere end 700 vejledere og 1.000 studerende fra udsatte samfund; studerende, hvis vejledere fik AI‑assistance, var fire procentpoint mere tilbøjelige til at mestre matematik, med gevinster på ni point blandt dem, der havde lavere‑rated vejledere.

Ingen af studierne beviser, at AI vil løse uddannelsesmæssig ulighed. Ingen kræver AGI. Begge demonstrerer dog den retning, teknologien kan tage.

Forestil dig, at denne retning fortsætter.

Et barn på landet i Louisiana bør ikke skulle bo nær en elite‑skole for at møde en fremragende matematiklærer. En studerende, der er fascineret af astronomi, bør ikke skulle vente til universitetet for at udforske astrofysik. Et barn, der er fascineret af arkæologi, skal kunne forfølge sin nysgerrighed, mens en AI‑tutor identificerer huller i læsning, historie, statistik og videnskabelig ræsonnement og tilpasser undervisningen derefter.

Målet bør ikke være at erstatte lærere. Det bør være at give lærere og studerende adgang til ekspertise, som tidligere ikke kunne leveres økonomisk en‑til‑en.

For måske første gang er personlig undervisning i enorm skala teknologisk plausibel. En lov, der skal beskytte kommende generationer, bør være ekstraordinært omhyggelig med ikke at lukke den dør.

Dit sundheds‑agenda gør samme sag

Din historik på sundhedsområdet er lige så konsistent. Du introducerede Medicare for All Act i 2017 og genindførte den i 2019, 2023 og 2025, og argumenterede gentagne gange for, at sundhedspleje skal betragtes som en ret, ikke en privilegium.

Du har også i årevis kæmpet mod en anden form for sundheds‑ulighed: manglen på faktiske medicinske fagfolk i udsatte samfund. Dine initiativer Community Health Center og Primary Care Workforce Expansion søgte at udvide adgangen i medicinsk underforsynede områder, mens din bipartisan primær‑pleje lovgivning fra 2023 med senator Roger Marshall foreslog en markant forøgelse af finansiering til community‑health‑centre samt udvidelse af National Health Service Corps og medicinske residens‑programmer. I 2025 introducerede du og senator Jeff Merkley Health Care Workforce Expansion Act, der inkluderer studiehjælp til at øge antallet af læger, sygeplejersker og tandlæger, især i landdistrikter.

Disse politikker adresserer både finansiel knaphed og mangel på menneskelige ressourcer.

AI kan hjælpe med at tackle en tredje knaphed: ekspertviden.

Den FDA anslår i dag, at mere end 10.000 sjældne sygdomme påvirker over 30 millioner amerikanere, cirka én ud af ti, og at de fleste sjældne sygdomme stadig mangler godkendte behandlinger. Små patientpopulationer gør også konventionelle kliniske forsøg ekstra vanskelige.

Kunstig intelligens er ingen magisk genvej omkring biologi eller klinisk validering. Lægemidler opdaget ved hjælp af AI kan fejle ligesom andre lægemidler. Men den ændrer allerede dele af opdagelsesprocessen.

I 2025 offentliggjorde forskere den første randomiserede fase‑2a‑undersøgelse af rentosertib, et lille molekyle til idiopatisk pulmonal fibrose, hvis mål og molekyle blev opdaget ved generativ AI. Resultaterne udgjorde en reel klinisk milepæl, mens forskerne selv advarede om, at relativt få AI‑opdagede lægemidler havde nået kliniske forsøg, og ingen havde gennemført fase 3 på det tidspunkt.

Det er netop den balancerede måde, vi bør tænke på denne teknologi: hverken hype eller afvisning.

Stadig mere kapable AI‑systemer kan integrere molekylærbiologi, kemi, genetik, medicinsk litteratur, billeddiagnostik, software, statistisk analyse og eksperimentelt design. Deres værdi kan netop opstå, fordi de kan resonere på tværs af felter, som mennesker historisk har delt op i separate specialer.

Det relevante spørgsmål er derfor ikke, om “AGI” alene vil kurere kræft, Alzheimers, antibiotika‑resistente infektioner eller sjældne genetiske lidelser. Ingen kan ansvarligt love det.

Spørgsmålet er, om Kongressen bør forbyde en bredt kapabel form for intelligens permanent, før vi ved, hvad den intelligens kan bidrage med til at løse disse problemer.

Mange af dagens mest konkrete AI‑skader kræver ikke AGI

Der er et andet problem med at gøre generel intelligens til det regulatoriske mål: nogle af de mest væsentlige skader forårsaget af AI i dag kommer fra systemer, der på ingen måde er tæt på kunstig generel intelligens.

I 2020 skrev jeg på Unite.AI om hvordan Facebooks anbefalingsalgoritmer kunne forstærke misinformation. Bekymringen var ikke, at Facebook havde skabt en intelligens, der var smartere end menneskeheden. Det var, at et optimeringssystem designet til at maksimere engagement kunne foretrække at forstærke materiale, der fremkaldte stærkere reaktioner, uanset dets samfundsmæssige værdi.

Konsekvenserne af dårligt styrede anbefalingssystemer er siden blevet sværere at afvise. Amnesty International konkluderede, at Metas algoritmer proaktivt forstærkede indhold, der opildnede til had og vold mod Rohingya i Myanmar, og øgede risikoen for massevold. Den europæiske kommission har separat krævet information fra YouTube, Snapchat og TikTok om risiciene ved anbefalingssystemer vedrørende skadeligt indhold, valg og civilsamfundsdiskurs, afhængighed, “kaninhuller”, mental sundhed og mindreårige.

Ingen af disse systemer behøvede at vælte en regering selv. Ingen behøvede rekursiv selvforbedring. Ingen behøvede supermenneskelig generel ræsonnement.

De havde blot et forkert mål, implementeret i tilstrækkelig skala.

Dette illustrerer et grundlæggende princip for AI‑regulering: skade bestemmes ikke kun af, hvor intelligent en model er. En snæver algoritme, der anvendes milliarder af gange under de forkerte incitamenter, kan være socialt destruktiv. Et højt generelt system, der opererer under strenge kontroller i et laboratorium, klasseværelse eller hospital, kan være enormt gavnligt.

Regulering bør anerkende denne forskel.

Dobbelt‑brugs‑teknologi kræver kontrol over brug, adgang og autoritet

Det samme princip gælder for overvågning.

Computer‑vision‑ og mønstergenkendelsesteknologier kan hjælpe læger med at analysere medicinske billeder, inspicere farlige industrielle miljøer, navigere redningsrobotter og automatisere opgaver, som mennesker ikke bør skulle udføre.

Relaterede teknologier kan også bruges til at bygge ekstraordinært kraftfulde overvågningssystemer.

En nylig Washington Post‑undersøgelse fandt, at mindst 50 politibetjente var blevet anklaget, sigtet eller dømt for misbrug af automatiserede nummerplade‑læser‑systemer til at overvåge personer til uautoriserede personlige formål. I ét tilfælde anklagede en politichef angiveligt køretøjer, der blev brugt af en tidligere partner og hendes teenage‑datter, omkring 600 gange. En senere undersøgelse hævede det identificerede antal embedsmænd, der blev anklaget, sigtet eller dømt for misbrug, til mindst 69.

Det er en alvorlig teknologisk‑politisk fejl.

Men bemærk, hvor de praktiske reguleringsgreb ligger. Efter undersøgelsen annoncerede Flock, at søgninger skulle kræve kriminelle sagskoder, automatiseret misbrugsdetektion skulle blive obligatorisk, og standarddatabevaring skulle falde fra 30 dage til syv. Disse foranstaltninger kan eller ikke kan gå langt nok, men de demonstrerer de typer kontrol, lovgivere kan regulere: autorisation, formålsbegrænsning, revisionsspor, opbevaring, menneskelig ansvarlighed og sanktioner for misbrug.

Svaret på misbrugs‑overvågning er ikke at forbyde computer‑vision.

Svaret på uautoriserede cyberangreb er ikke nødvendigvis at forbyde en model, der er i stand til cybersikkerhed.

Svaret er at regulere, hvad systemer må gøre, hvilke ressourcer de kan tilgå, hvem der kan godkende konsekvensfulde handlinger, og hvad der sker, når grænserne overskrides.

Du har allerede skrevet en del af en bedre reguleringsmodel

Interessant nok indeholder et andet lovforslag, du introducerede i år, flere idéer, der peger mod en mere produktiv tilgang.

Jeg har læst den komplette tekst af din Artificial Intelligence Data Center Moratorium Act. Selvom jeg er uenig i at stoppe datacenter‑byggeri på tværs af boardet, er de betingelser, du foreslår for eventual løftelse af moratoriet, meget mere konkrete end et generelt forbud mod en kategori af intelligens.

Dit lovforslag siger, at AI‑datacentre ikke må øge forbrugernes elregninger, forværre klimaændringer eller skade miljøet. Det kræver, at berørte lokalsamfund får en stemme, stærke arbejdsstandarder og offentlig rapportering om vandforbrug, energiforbrug, drivhusgasemissioner, spildevand, kølingskemikalier, støj, job og andre påvirkninger.

Det er målbare eksternaliteter. Det er præcis, hvor regulering kan være effektiv.

Jeg vil gå videre på energiområdet. AI‑industrien bør ikke tillades at bruge den hurtigt voksende el‑efterspørgsel som en undskyldning for at forlænge levetiden for ubegrænsede kul‑kraftværker eller overføre infrastrukturomkostninger til almindelige forbrugere. Nye hyperskala‑projekter bør kræve, at de bringer betydelige ekstra lav‑ eller nul‑kulstof‑produktion på nettet og afslører deres vand‑ og energi‑påvirkninger.

Der findes allerede lovende eksempler på, hvordan den overgang kan se ud. Exowatts P3‑system indfanger solenergi som varme, lagrer den og omdanner den til afgivelig elektricitet, delvist designet til datacenter‑belastninger. Og netop denne uge annoncerede Fervo Energy en 396‑megawatt‑aftale med Google om 24/7 kulstoffri forbedret geotermisk energi i Utah, med en mulighed, der kan bringe den samlede kapacitet tæt på én gigawatt.

AI’s energibehov kan blive enten en grund til at udvide beskidt infrastruktur eller en enorm efterspørgselsmotor for nye ren‑energi‑teknologier.

Offentlig politik kan hjælpe med at bestemme, hvilken udfald der sker.

Og din egen American AI Sovereign Wealth Fund Act, introduceret i juni, indeholder et andet princip, som jeg stærkt støtter: hvis AI skaber ekstraordinær økonomisk værdi, bør almindelige mennesker dele i den værdi. Dit forslag forestiller sig eksplicit, at AI‑genereret rigdom på sigt kan bidrage til sundhedspleje, uddannelse, bolig og et sundt miljø.

Det anerkender noget væsentligt: kunstig intelligens har ekstraordinær potentiel værdi. Det reelle politiske spørgsmål er, hvordan den værdi kontrolleres og fordeles.

Et bedre alternativ til et permanent forbud

Jeg vil opfordre dig til at bevare de stærkeste dele af Ban Artificial Superintelligence Act: den føderale regulator, uafhængig teknisk ekspertise, obligatorisk tilsyn med front‑systemer, meningsfulde sanktioner og international koordinering. Men jeg vil fundamentalt ændre, hvad der udløser forbud, og hvordan gavnlig udvikling kan fortsætte.

• Reguler målbare farlige kapaciteter i stedet for AGI‑ eller ASI‑betegnelsen. Etablér teknisk definerede tærskler omkring autonom cyber‑offensiv, biologisk eller kemisk våben‑aktivering, omgåelse af nedlukning, uautoriseret replikation, strategisk bedrag og andre kapaciteter, der kan forårsage katastrofal skade.
• Kræv licens og uafhængige evalueringer over front‑tærskler. Udviklere skal demonstrere sikkerhed, før de implementerer systemer med specificerede farlige kapaciteter, med evalueringer gentaget efterhånden som modeller får nye værktøjer, tilladelser eller autonomi. Alvorlige hændelser skal medføre obligatorisk rapporteringspligt.
• Giv en uafhængig regulator reelle håndhævelsesbeføjelser. Den agentur, du foreslår, skal kunne auditere front‑laboratorier, indhente information, kræve afhjælpning og suspendere farlige implementeringer. Standarderne skal være gennemsigtige, teknisk målbare og periodisk revideret af uafhængige videnskabelige eksperter.
• Forbyd skadelige anvendelser uanset hvor intelligent den underliggende model er. Uautoriserede cyber‑angreb, ulovlig overvågning, farlig biologisk assistance og andre uacceptable anvendelser skal forblive ulovlige, uanset om de udføres med en snæver model, et AGI‑system eller konventionel software.
• Skab kontrollerede veje for socialt værdifuld forskning. Medicin, videnskabelig opdagelse, uddannelse, cybersikkerheds‑forsvar og alignment‑forskning skal have regulerede mekanismer, der tillader adgang til kraftfulde modeller under passende menneskelig tilsyn, validering, sikkerhed og audit‑krav.
• Gør AI‑infrastruktur ansvarlig for sine fulde sociale og miljømæssige omkostninger, samtidig med at der koordineres internationalt. Beskyt forbrugerne, kræv gennemsigtig rapportering af vand‑ og energiforbrug, accelerer yderligere ren produktion, oprethold meningsfulde fællesskabs‑ og arbejdsbeskyttelser, og samarbejd med allierede om fælles kapacitetsstandarder, evalueringer og eksportkontroller.

Dette betyder ikke, at man skal stole på Silicon Valley.

Tværtimod.

Teknologibranchen har givet Kongressen rigelig grund til ikke at stole på frivillig selvregulering. OpenAI‑ og Anthropic‑hændelserne alene demonstrerer, hvorfor front‑AI kræver ekstern kontrol og håndhævelsesdygtige sikkerhedsstandarder.

Men mistillid til teknologivirksomheder bør ikke blive mistillid til teknologisk fremskridt i sig selv.

Valget er ikke hensynsløs acceleration eller forbud

Senator Sanders, gennem din karriere har du gentagne gange kæmpet mod knaphed.

Du har kæmpet imod idéen om, at en families indkomst skal bestemme, om et barn får en uddannelse. Du har kæmpet imod et sundhedssystem, hvor en persons bankkonto eller postnummer kan påvirke, hvilken pleje de modtager. Du har kæmpet imod økonomiske strukturer, hvor enorme gevinster akkumuleres hos en lille gruppe, mens alle andre absorberer omkostningerne.

Kunstig intelligens kan forværre alle disse problemer.

Den kan koncentrere hidtil uset rigdom. Den kan erstatte arbejdskraft uden at dele produktivitetsgevinster. Den kan muliggøre overvågning, manipulation og cyber‑angreb. Den kan placere ekstraordinær magt i hænderne på et lille antal virksomheder.

Disse risici retfærdiggør regulering.

Men AI kan også mindske en af de ældste former for ulighed i menneskehedens historie: ulighed i adgang til ekspertise.

En verden, hvor hvert barn kan få personlig undervisning, hver læge kan trække på ekstraordinær analytisk støtte, hver forsker kan undersøge århundreders akkumuleret forskning, og sygdomme, der ignoreres fordi deres patientpopulation er for lille, kan modtage langt mere videnskabelig opmærksomhed, er også værd at kæmpe for.

Vi bør ikke skulle vælge mellem den fremtid og AI‑sikkerhed.

Det bedre mål er at gøre kraftfuld AI vanskelig at misbruge, vanskelig at miste kontrollen over, tilstrækkeligt gennemsigtig til at kunne auditere, dyr at implementere uforsigtigt, og bredt tilgængelig til socialt gavnlige formål.

Forbyd handlinger, der bringer menneskeheden i fare. Licensér farlige kapaciteter. Straf uagtsom og ondsindet implementering. Kræv, at virksomheder internaliserer deres infrastrukturs miljøomkostninger. Beskyt arbejdstagere. Giv offentligheden en andel af de økonomiske gevinster. Og skab en uafhængig regulator, der kan sige “nej” selv til verdens største teknologivirksomheder.

Men venligst definer ikke forbudt intelligens så bredt, at det i sig selv at matche menneskelig kognitiv kapacitet på tværs af mange domæner bliver en forbrydelse.

Dit livsværk har centreret sig om at udvide adgangen til ting, der tidligere kun var forbeholdt de privilegerede.

Avanceret kunstig intelligens kunne blive den største motor for koncentreret magt, vi nogensinde har skabt.

Eller den kunne blive et af de største værktøjer, der nogensinde er skabt for at demokratisere viden, uddannelse, medicin og videnskabelig kapacitet.

God lovgivning kan hjælpe med at bestemme, hvilken fremtid vi får.