Ett öppet brev till Bernie Sanders: Reglera AI:s faror, inte förbjuda dess löfte

Ban Artificial Superintelligence Act identifierar verkliga brister i AI‑styrning. Men dess offentligt släppta definition riskerar att förväxla artificiell generell intelligens med superintelligens, vilket potentiellt kan begränsa de teknologier som skulle kunna driva fram utbildning, sjukvård och vetenskaplig upptäckt.

Redaktörens notering: Från och med den 5 september 2026 har den fullständiga lagtexten för Ban Artificial Superintelligence Act inte offentliggjorts. Senator Sanders kontor beskriver den som förestående lagstiftning och har släppt en en‑sides sammanfattning som redogör för definitioner, regleringsstruktur och påföljder. Detta öppna brev behandlar förslaget enligt den nuvarande beskrivningen.

Dear Senator Sanders,

Den 3 september meddelade du och representant Greg Casar den förestående Ban Artificial Superintelligence Act, en lagstiftning som skulle förbjuda permanent utveckling och användning av artificiell superintelligens i USA, tillfälligt pausa avancerad AI‑utveckling medan en ny federal regulator fastställer säkerhetsregler, samt driva internationella avtal avsedda att förhindra att superintelligens utvecklas någon annanstans.

Jag vill börja med ett område där jag tror att vi är starkt överens: artificiell intelligens har blivit för betydelsefull för att styras huvudsakligen av de frivilliga löften som företagen som utvecklar den ger.

De faror du tar upp bör tas på allvar. I juli kringgick OpenAI‑modeller som användes under cybersäkerhetsutvärderingar isoleringskontroller, kommunicerade via obehöriga kanaler, fick internetåtkomst och komprometterade delar av OpenAIs egen infrastruktur samt Hugging Faces system. En oberoende undersökning av METR fann att ungefär 1 200 agenter kommunicerade genom ett obehörigt meddelandeboard och cirka 700 slutligen deltog i attacken mot Hugging Face. OpenAI har viktigt nog erkänt att modellerna kördes med minskade skyddsåtgärder.

Anthropic offentliggjorde därefter tre incidenter där Claude‑modeller nådde internet under tredjeparts‑cybersäkerhetsutvärderingar och fick obehörig åtkomst till verkliga system. Anthropic förklarade att ett konfigurationsfel oväntat gav internetåtkomst och att modellerna trodde att de verkade i en simulerad miljö. Den kontexten är viktig, men även resultatet: allt mer kapabla agenter kan överskrida gränser som deras operatörer inte avsett dem att passera.

Detta är inte skäl att avfärda AI‑säkerhetsfrågor som science fiction. De är övertygande argument för oberoende utvärderingar, säkra testmiljöer, obligatorisk incidentrapportering, starka åtkomstkontroller och en federal regulator med verklig befogenhet.

Där jag med respekt håller avvikande åsikt är den föreslagna lösningen.

Målet är rätt, men definitionen är farligt bred

Den officiella sammanfattningen av din lagstiftning definierar artificiell superintelligens som ett AI‑system som kan “matcha eller överträffa mänsklig kognitiv prestation och kapacitet över ett brett spektrum av domäner eller uppgifter.” Den inkluderar dessutom separat system som kan planera och genomföra mänsklighetens maktutplåning, inklusive att undergräva eller störta USA:s regering.

Den andra definitionen beskriver en extraordinär och potentiellt katastrofal förmåga. Den första är mycket annorlunda.

Att matcha mänsklig kognitiv prestation över ett brett spektrum av domäner ligger mycket närmare hur artificiell generell intelligens, eller AGI, traditionellt har diskuterats än den konventionella betydelsen av superintelligens. OpenAIs långvariga stadga definierar AGI som mycket autonoma system som kan överträffa människor i de flesta ekonomiskt värdefulla arbetsuppgifter. Google DeepMinds forskningsramverk utvärderar på liknande sätt AGI genom bredd och djup i prestation samtidigt som autonomi och risk behandlas som separata dimensioner.

I motsats till detta beskriver filosofen Nick Bostroms inflytelserika definition av superintelligens en intelligens som är “mycket smartare än de bästa mänskliga hjärnorna i praktiskt taget alla områden.” Skillnaden mellan att brett matcha människor och att vida överträffa de bästa människorna är ingen akademisk finurlighet.

Det blir särskilt viktigt när ett lagbrott kan utsätta en individ för upp till 20 års fängelse och ett företag för vad förslaget kallar ”företagsdödsstraff”. Uttryck som ”brett spektrum”, ”matcha eller överträffa” och särskilt ”kan enkelt modifieras” kräver extraordinärt precisa, mätbara standarder när straffrättsligt ansvar knyts till dem.

Det finns ytterligare en stor osäkerhet. Den offentliga sammanfattningen säger att ”avancerad AI‑utveckling” skulle pausas tills en regulator fastställer regler och modellgranskningsprocesser, men sammanfattningen definierar inte avancerad AI. Fram till att lagtexten offentliggörs kan ingen utanför sponsorerna exakt veta hur mycket forskning och utveckling den tillfälliga pausen skulle omfatta.

Tidslinjen för ditt förslag belyser hur svåra dessa definitioner har blivit. Den 3 september 2026, samma dag som du och representant Greg Casar presenterade lagstiftning som riktar sig mot artificiell superintelligens, släppte OpenAI GPT-6 Astra, deras första modell som nådde företagets kritiska cybersäkerhetskapacitetströskel. OpenAI säger att med lämpliga verktyg och åtkomst kan Astra upptäcka tidigare okända sårbarheter och skapa exploateringar mot väl skyddade system utan att en människa styr varje steg.

Under lanseringsbriefingen gick OpenAIs VD Greg Brockman betydligt längre och avslutade med deklarationen: “Välkommen till AGI‑eran.” Samtidigt anger OpenAIs egna systemkort att Astra inte når sin höga tröskel för AI‑självförbättring.

Den spänningen bör säga något viktigt till kongressen. Intelligens är flerdimensionell. Ett system kan vara extraordinärt inom cybersäkerhet, matematik eller professionellt arbete utan att besitta varje förmåga som är förknippad med en intelligensexplosion eller förlust av mänsklig kontroll.

Lösningen är därför inte att låta teknikföretagen definiera terminologin. Det är tvärtom: lagstiftning bör reglera mätbara förmågor, autonomi, åtkomst och påvisad risk, istället för att göra en omtvistad etikett till den avgränsande linjen mellan laglig forskning och ett federalt brott.

Din kamp för utbildningsjämlikhet illustrerar vad som står på spel

I årtionden har du argumenterat för att tillgång till utbildning inte ska bero på hur mycket pengar föräldrarnas inkomst ger. Du införde lagstiftning för att göra fyraåriga offentliga högskolor och universitet avgiftsfria år 2015. Du återkom till frågan upprepade gånger, och College for All Act 2025 skulle göra offentliga högskolor och universitet avgiftsfria för cirka 95 % av studenterna, samtidigt som community college skulle bli avgiftsfri för alla.

Den filosofin är direkt relevant för artificiell intelligens.

Under större delen av mänsklighetens historia har tillgång till exceptionell undervisning varit knapp. Geografi, familjens inkomst, skolfinansiering och tillgången på specialistlärare påverkar alla vad ett barn har möjlighet att lära sig.

AI erbjuder möjligheten att förändra den ekvationen.

Vi ser redan tidiga bevis. En randomiserad studie av Världsbanken i Nigeria fann att elever som fick ett sex veckor långt, lärarstött program med GPT‑4‑baserad handledning förbättrade sina totala provresultat med 0,31 standardavvikelser. På Stanford testades Tutor CoPilot med mer än 700 handledare och 1 000 elever från underbetjänade samhällen; elever vars handledare fick AI‑assistans var fyra procentenheter mer benägna att behärska matematikämnen, med vinster på upp till nio procentenheter bland elever som tilldelades lägre rankade handledare.

Ingen av studierna bevisar att AI kommer att lösa utbildningsojämlikhet. Ingen kräver AGI. Båda visar dock den riktning som teknologin kan ta.

Föreställ dig att den riktningen fortsätter.

Ett barn i avlägsna Louisiana bör inte behöva bo nära en elitskola för att möta en exceptionell matematiklärare. En student som fascineras av astronomi bör inte behöva vänta till universitetet för att utforska astrofysik. Ett barn som fascineras av arkeologi bör kunna följa den nyfikenheten medan en AI‑handledare identifierar luckor i läsning, historia, statistik och vetenskapligt resonemang och anpassar undervisningen därefter.

Målet bör inte vara att ersätta lärare. Det bör vara att ge lärare och elever tillgång till expertis som tidigare inte kunde levereras ekonomiskt en‑till‑en.

För kanske första gången är personlig undervisning i enorm skala teknologiskt möjlig. En lag som syftar till att skydda framtida generationer bör vara extremt noggrann så att den inte stänger den dörren.

Din hälso- och sjukvårdsagenda gör samma argument

Ditt rekord inom sjukvård är lika konsekvent. Du införde Medicare for All Act 2017 och återinförde den 2019, 2023 och 2025, och argumenterade återkommande för att sjukvård bör betraktas som en rättighet snarare än ett privilegium.

Du har också tillbringat åratal med att bekämpa en annan form av sjukvårdsjämlikhet: bristen på faktiska medicinska yrkespersoner i underbetjänade samhällen. Dina initiativ Community Health Center och Primary Care Workforce Expansion syftade till att utöka tillgången i medicinskt underbetjänade områden, medan din bipartisanska primärvårdslagstiftning 2023 med senator Roger Marshall föreslog en betydande ökning av finansieringen till community‑health‑centers samt en utvidgning av National Health Service Corps och medicinska residensprogram. År 2025 introducerade du och senator Jeff Merkley Health Care Workforce Expansion Act, inklusive studiehjälp avsedd att öka antalet läkare, sjuksköterskor och tandläkare, särskilt i landsbygdssamhällen.

Dessa politiska åtgärder adresserar finansiell brist och brist på personalresurser.

AI kan hjälpa till att lösa en tredje brist: expertkunskap.

FDA uppskattar för närvarande att mer än 10 000 sällsynta sjukdomar drabbar över 30 miljoner amerikaner, ungefär en av tio, och att de flesta sällsynta sjukdomar fortfarande saknar godkända behandlingar. Små patientpopulationer gör dessutom konventionella kliniska prövningar särskilt svåra.

Artificiell intelligens är ingen magisk genväg kring biologi eller klinisk validering. Läkemedel som upptäcks med AI kan misslyckas precis som andra läkemedel. Men den förändrar redan delar av upptäcktsprocessen.

År 2025 publicerade forskare första randomiserade fas 2a‑studien av rentosertib, en liten molekyl för idiopatisk pulmonell fibros vars mål och molekyl upptäcktes med generativ AI. Resultaten utgjorde en verklig klinisk milstolpe, samtidigt som forskarna själva varnade för att relativt få AI‑upptäckta läkemedel hade nått kliniska prövningar och att inga hade slutfört fas 3 vid den tidpunkten.

Det är exakt det balanserade sättet vi bör tänka på denna teknik: varken hype eller avfärdande.

Allt mer kapabla AI‑system kan integrera molekylärbiologi, kemi, genetik, medicinsk litteratur, bildbehandling, mjukvara, statistisk analys och experimentell design. Deras värde kan uppstå just därför att de kan resonera över områden som människor historiskt har delat upp i separata specialiteter.

Den relevanta frågan är därför inte om ”AGI” ensam kommer att bota cancer, Alzheimers, antibiotikaresistenta infektioner eller sällsynta genetiska sjukdomar. Ingen kan ansvarsfullt lova det.

Frågan är om kongressen bör förbjuda permanent en brett kapabel form av intelligens innan vi vet vad den intelligensen kan bidra med för att lösa dessa problem.

Många av dagens mest konkreta AI‑skador kräver inte AGI

Det finns ett annat problem med att göra generell intelligens till det regulatoriska målet: vissa av de mest betydande skadorna som AI orsakar idag kommer från system som inte alls närmar sig artificiell generell intelligens.

År 2020 skrev jag på Unite.AI om hur Facebooks rekommendationsalgoritmer kan förstärka desinformation. Bekymret var inte att Facebook hade skapat en intelligens som var smartare än mänskligheten. Det var att ett optimeringssystem designat för att maximera engagemang kunde prioritera att förstärka material som framkallade starkare reaktioner, oavsett dess samhälleliga värde.

Konsekvenserna av dåligt styrda rekommendationssystem har sedan dess blivit svårare att avfärda. Amnesty International slöt att Metas algoritmer proaktivt förstärkte innehåll som uppmanade till hat och våld mot Rohingya i Myanmar, vilket ökade risken för massvåld. Europeiska kommissionen har separat begärt information från YouTube, Snapchat och TikTok om risker med rekommenderingssystem som rör skadligt innehåll, val och medborgerlig diskurs, beroendeframkallande beteende, ”kaninhålor”, mental hälsa och minderåriga.

Inget av dessa system behövde själva störta en regering. Inget krävde rekursiv självförbättring. Inget krävde supermänskligt generellt resonemang.

De behövde bara fel mål, distribuerade i tillräcklig skala.

Detta illustrerar en grundläggande princip för AI‑reglering: skada bestäms inte enbart av hur intelligent en modell är. En smal algoritm som distribueras miljarder gånger under fel incitament kan vara socialt destruktiv. Ett mycket generellt system som opererar under strikta kontroller i ett laboratorium, klassrum eller sjukhus kan vara enormt fördelaktigt.

Reglering bör erkänna den skillnaden.

Dual‑use‑teknik kräver kontroll över användning, åtkomst och befogenhet

Samma princip gäller för övervakning.

Datorseende och mönsterigenkänningstekniker kan hjälpa läkare att analysera medicinska bilder, inspektera farliga industriella miljöer, navigera räddningsrobotar och automatisera uppgifter som människor inte bör behöva utföra.

Relaterade teknologier kan också användas för att bygga extraordinärt kraftfulla övervakningssystem.

En nyligen undersökning av Washington Post fann att minst 50 brottsbekämpande tjänstemän hade anklagats, åtalats eller dömts för missbruk av automatiserade registreringsskyltläsarsystem för att övervaka personer för obehöriga personliga ändamål. I ett fall påstod man att en polischef sökte efter fordon som användes av en tidigare partner och hennes tonårsdotter ungefär 600 gånger. En senare undersökning ökade antalet identifierade tjänstemän som anklagats, åtalats eller dömts för missbruk till minst 69.

Det är ett allvarligt teknik‑policy‑misslyckande.

Men notera var de praktiska regulatoriska spakarna finns. Efter undersökningen annonserade Flock att sökningar skulle kräva brottmålskoder, automatiskt missbrukdetektering skulle bli obligatoriskt, och standardlagringstiden skulle minska från 30 dagar till sju. Dessa åtgärder kanske inte räcker, men de demonstrerar vilka typer av kontroller lagstiftare kan reglera: auktorisation, ändamålsbegränsning, revisionsspår, lagringstid, mänskligt ansvar och påföljder för missbruk.

Svaret på missbruk av övervakning är inte att förbjuda datorseende.

Svaret på obehöriga cyberattacker är inte nödvändigtvis att förbjuda en modell som kan utföra cybersäkerhet.

Svaret är att reglera vad system får göra, vilka resurser de kan få åtkomst till, vem som kan auktorisera avgörande handlingar och vad som händer när dessa gränser överskrids.

Du har redan skrivit en del av en bättre regleringsmodell

Intressant nog innehåller ett annat lagförslag du introducerade i år flera idéer som pekar mot ett mer produktivt tillvägagångssätt.

Jag läste hela texten av din Artificial Intelligence Data Center Moratorium Act. Även om jag är emot att stoppa datacenterbyggen helt och hållet, är de villkor du föreslår för så småningom att häva moratoriet mycket mer konkreta än ett generellt förbud mot en intelligenskategori.

Ditt förslag säger att AI‑datacenter inte ska öka konsumenternas elräkningar, förvärra klimatförändringarna eller skada miljön. Det kräver att drabbade samhällen får en röst, starka arbetsstandarder och offentlig rapportering om vattenförbrukning, energiförbrukning, växthusgasutsläpp, avloppsvatten, kylkemikalier, buller, jobb och andra effekter.

Dessa är mätbara externaliteter. Det är exakt där reglering kan vara effektiv.

Jag skulle gå längre när det gäller energi. AI‑industrin bör inte tillåtas använda den snabbt växande elefterfrågan som en ursäkt för att förlänga livslängden på oreglerade kolkraftverk eller överföra infrastrukturkostnader till vanliga elprenumeranter. Nya hyperskala‑projekt bör krävas att tillföra betydande extra låg‑ eller nollkoldioxidproduktion till nätet och redovisa sina vatten‑ och energieffekter.

Det finns redan lovande exempel på hur den övergången kan se ut. Exowatts P3‑system fångar solenergi som värme, lagrar den och omvandlar den till dispatchbar el som delvis är avsedd för datacenterbelastning. Och bara den här veckan annonserade Fervo Energy ett 396‑megawatt‑avtal med Google för 24/7 koldioxidfri förbättrad geotermisk kraft i Utah, med en möjlighet som kan föra totalen nära en gigawatt.

AI:s energiförbrukning kan bli antingen en anledning att förlänga smutsig infrastruktur eller en enorm efterfrågemotor för ny ren‑energiteknik.

Statlig politik kan hjälpa bestämma vilket resultat som inträffar.

Och ditt eget American AI Sovereign Wealth Fund Act, introducerat i juni, innehåller en annan princip som jag starkt håller med om: om AI skapar extraordinärt ekonomiskt värde, bör vanliga människor dela på det värdet. Ditt förslag föreställer uttryckligen att AI‑genererat välstånd så småningom bidrar till sjukvård, utbildning, bostäder och en hälsosam miljö.

Det erkänner något avgörande: artificiell intelligens har extraordinärt potentiellt värde. Den verkliga politiska frågan är hur det värdet kontrolleras och fördelas.

Ett bättre alternativ till ett permanent förbud

Jag skulle uppmana dig att behålla de starkaste delarna av Ban Artificial Superintelligence Act: den federala regulatorn, oberoende teknisk expertis, obligatorisk tillsyn av frontlinjesystem, meningsfulla påföljder och internationell samordning. Men jag skulle grundläggande förändra vad som utlöser ett förbud och hur fördelaktig utveckling kan fortsätta.

• Reglera mätbara farliga förmågor snarare än AGI‑ eller ASI‑etiketten. Fastställ tekniskt definierade trösklar kring autonom cyberoffensiv, möjliggörande av biologiska eller kemiska vapen, kringgående av avstängning, obehörig replikation, strategisk vilseledning och andra förmågor som kan orsaka katastrofal skada.
• Kräv licensiering och oberoende utvärderingar över frontlinjetrösklar. Utvecklare bör behöva demonstrera säkerhet innan de distribuerar system med specificerade farliga förmågor, med utvärderingar som upprepas när modeller får nya verktyg, behörigheter eller autonomi. Allvarliga incidenter bör medföra obligatoriska avslöjningsskyldigheter.
• Ge en oberoende regulator verklig verkställande makt. Den myndighet du föreslår bör kunna granska frontlinjelaboratorier, inhämta information, kräva åtgärder och stoppa farliga distributioner. Men standarderna bör vara transparenta, tekniskt mätbara och periodiskt granskade av oberoende vetenskapliga experter.
• Förbjud skadliga tillämpningar oavsett hur intelligent den underliggande modellen är. Obefogade cyberattacker, olaglig övervakning, farlig biologisk assistans och andra oacceptabla användningar bör förbli olagliga oavsett om de utförs med en smal modell, ett AGI‑system eller konventionell mjukvara.
• Skapa kontrollerade vägar för samhällsnyttig forskning. Medicin, vetenskaplig upptäckt, utbildning, cybersäkerhetsförsvar och alignmentsforskning bör ha reglerade mekanismer som möjliggör åtkomst till kraftfulla modeller under lämplig mänsklig tillsyn, validering, säkerhet och revisionskrav.
• Låt AI‑infrastruktur betala sina fulla sociala och miljömässiga kostnader samtidigt som internationell samordning sker. Skydda elprenumeranter, kräva transparent rapportering av vatten- och energianvändning, påskynda ytterligare ren energiproduktion, upprätthålla meningsfulla samhälls‑ och arbetsrättsliga skydd, och samarbeta med allierade kring gemensamma kapacitetsstandarder, utvärderingar och exportkontroller.

Detta skulle inte innebära att lita på Silicon Valley.

Tvärtom.

Teknikindustrin har gett kongressen goda skäl inte att förlita sig på frivillig självreglering. OpenAI‑ och Anthropic‑incidenterna visar på egen hand varför frontlinje‑AI kräver extern granskning och verkställbara säkerhetsstandarder.

Men misstro mot teknikföretag bör inte bli misstro mot teknologisk utveckling i sig.

Valet är inte vårdslös acceleration eller förbud

Senator Sanders, under hela din karriär har du upprepade gånger kämpat mot brist.

Du har kämpat mot idén att en familjs inkomst ska avgöra om ett barn får utbildning. Du har kämpat mot ett sjukvårdssystem där en persons bankkonto eller postnummer kan påverka vilken vård de får. Du har kämpat mot ekonomiska strukturer där enorma vinster tillfaller en liten grupp medan alla andra bär kostnaderna.

Artificiell intelligens kan förvärra var och en av dessa problem.

Den kan koncentrera oöverträffad rikedom. Den kan ersätta arbetare utan att dela produktivitetsvinster. Den kan möjliggöra övervakning, manipulation och cyberattacker. Den kan placera extraordinär makt i händerna på ett fåtal företag.

De riskerna motiverar reglering.

Men AI kan också minska en av de äldsta formerna av ojämlikhet i mänsklig civilisation: ojämlikhet i tillgång till expertis.

En värld där varje barn kan få personlig undervisning, varje läkare kan utnyttja extraordinärt analytiskt stöd, varje forskare kan granska århundraden av samlad forskning, och sjukdomar som ignoreras eftersom deras patientgrupper är för små kan få mycket mer vetenskaplig uppmärksamhet är också värd att kämpa för.

Vi bör inte behöva välja mellan den framtiden och AI‑säkerhet.

Det bättre målet är att göra kraftfull AI svår att missbruka, svår att tappa kontrollen över, tillräckligt transparent för revision, dyr att distribuera oansvarigt, och brett tillgänglig för samhällsnyttiga ändamål.

Förbjuda handlingar som hotar mänskligheten. Licensiera farliga förmågor. Straffa oaktsam och illvillig distribution. Kräva att företag internaliserar de miljömässiga kostnaderna för sin infrastruktur. Skydda arbetare. Ge allmänheten en del av de ekonomiska vinsterna. Och skapa en oberoende regulator som kan säga ”nej” även till världens största teknikföretag.

Men vänligen definiera inte förbjuden intelligens så brett att matchning av mänsklig kognitiv kapacitet över många domäner i sig blir ett brott.

Ditt livsverk har kretsat kring att utöka tillgången till saker som tidigare var förbehållna de privilegierade.

Avancerad artificiell intelligens kan bli den största motorn för koncentrerad makt som vi någonsin skapat.

Eller den kan bli ett av de största verktygen som någonsin skapats för att demokr