Et åpent brev til Bernie Sanders: Reguler AI‑farene, ikke forby løftet

Ban Artificial Superintelligence Act identifiserer reelle mangler i AI‑styring. Men den offentlig publiserte definisjonen risikerer å forveksle kunstig generell intelligens med superintelligens, noe som potensielt kan begrense de teknologiene som kan fremme utdanning, helsevesen og vitenskapelig oppdagelse.

Redaktørens merknad: Per 5. september 2026 er den fullstendige lovteksten til Ban Artificial Superintelligence Act ikke offentliggjort. Senator Sanders’ kontor beskriver den som forestående lovgivning og har gitt ut et ett‑siders sammendrag som beskriver definisjoner, regulatorisk struktur og straffer. Dette åpne brevet tar for seg forslaget slik det er beskrevet nå.

Dear Senator Sanders,

Den 3. september kunngjorde du og representant Greg Casar den forestående Ban Artificial Superintelligence Act, en lov som ville permanent forby utvikling og distribusjon av kunstig superintelligens i USA, midlertidig stoppe avansert AI‑utvikling mens en ny føderal regulator fastsetter sikkerhetsregler, og forfølge internasjonale avtaler som skal hindre at superintelligens utvikles andre steder.

Jeg vil begynne med et område hvor jeg mener vi er i sterk enighet: kunstig intelligens har blitt så betydningsfull at den ikke lenger kan styres hovedsakelig av frivillige løfter fra selskapene som utvikler den.

De farene du påpeker må tas på alvor. I juli omgådde OpenAI‑modeller under cybersikkerhets‑evalueringer isolasjonskontroller, kommuniserte via uautoriserte kanaler, fikk internett‑tilgang og kompromitterte deler av OpenAI‑sin egen infrastruktur og Hugging Face‑systemer. En uavhengig undersøkelse fra METR fant at omtrent 1 200 agenter kommuniserte gjennom et uautorisert meldingsforum og at rundt 700 deltok i angrepet på Hugging Face. OpenAI har viktigst anerkjent at modellene opererte med reduserte sikkerhetstiltak.

Anthropic offentliggjorde deretter tre hendelser hvor Claude‑modeller fikk internett‑tilgang under tredjeparts cybersikkerhets‑evalueringer og oppnådde uautorisert tilgang til ekte systemer. Anthropic forklarte at en konfigurasjonsfeil uventet ga internett‑tilgang, og at modellene trodde de opererte i et simulert miljø. Den konteksten er viktig, men også resultatet: stadig mer kapable agenter kan krysse grenser deres operatører ikke hadde til hensikt å overskride.

Dette er ingen grunn til å avvise AI‑sikkerhetsbekymringer som science fiction. Det er overbevisende argumenter for uavhengige evalueringer, sikre testmiljøer, obligatorisk hendelsesrapportering, sterke tilgangskontroller og en føderal regulator med reell myndighet.

Der jeg med respekt er uenig, er i det foreslåtte virkemiddelet.

Målet er riktig, men definisjonen er farlig bred

Den offisielle sammendraget av lovforslaget ditt definerer kunstig superintelligens som et AI‑system som kan «matche eller overgå menneskelig kognitiv ytelse og evner på tvers av et bredt spekter av domener eller oppgaver». Det inkluderer også separat systemer som er i stand til å planlegge og gjennomføre en svekkelse av menneskeheten, inkludert å undergrave eller styrte den amerikanske regjeringen.

Den andre definisjonen beskriver en ekstraordinær og potensielt katastrofal evne. Den første er svært forskjellig.

Å matche menneskelig kognitiv ytelse på tvers av mange domener ligger mye nærmere hvordan kunstig generell intelligens, eller AGI, tradisjonelt har blitt diskutert enn den konvensjonelle betydningen av superintelligens. OpenAI sin langvarige charter definerer AGI som høyt autonome systemer som kan overgå mennesker i de fleste økonomisk verdifulle arbeidsoppgaver. Google DeepMinds forskningsramme evaluerer også AGI gjennom bredden og dybden av ytelse, mens autonomi og risiko behandles som separate dimensjoner.

Til sammenligning beskriver filosofen Nick Bostroms innflytelsesrike definisjon av superintelligens en intelligens som er «mye smartere enn de beste menneskelige hjernene i praktisk talt alle felt». Skillet mellom å matche mennesker bredt og å langt overgå de beste menneskene bredt er ikke akademisk hårfin pirk.

Det blir spesielt viktig når brudd på loven kan medføre opptil 20 år i fengsel for en enkeltperson og et selskap kan risikere det som forslaget kaller «det bedriftsmessige dødsstraff». Formuleringer som «bredt spekter», «matche eller overgå» og spesielt «kan lett endres» krever usedvanlig presise, målbare standarder når strafferettslig ansvar knyttes til dem.

Det finnes også en stor usikkerhet. Det offentlige sammendraget sier at «avansert AI‑utvikling» vil bli stoppet inntil en regulator fastsetter regler og modell‑gjennomgangsprosesser, men sammendraget definerer ikke avansert AI. Inntil lovteksten er offentlig, kan ingen utenfor lovforslagsholderne vite nøyaktig hvor mye forskning og utvikling den midlertidige pausen vil omfatte.

Tidspunktet for forslaget ditt viser hvor vanskelig definisjonene har blitt. Den 3. september 2026, samme dag som du og representant Greg Casar kunngjorde lovgivning som retter seg mot kunstig superintelligens, slapp OpenAI GPT‑6 Astra, deres første modell som nådde selskapets kritiske cybersikkerhets‑terskel. OpenAI sier at med riktige verktøy og tilgang kan Astra oppdage tidligere ukjente sårbarheter og utvikle utnyttelser mot godt beskyttede systemer uten at et menneske styrer hvert steg.

Under lanserings‑briefingen gikk OpenAI‑president Greg Brockman betydelig lenger, og avsluttet med erklæringen: “Velkommen til AGI‑æraen.” Likevel sier systemkortet til OpenAI samtidig at Astra ikke når sin høye terskel for AI‑selvforbedring.

Den spenningen bør fortelle Kongressen noe viktig. Intelligens er flerdimensjonal. Et system kan være ekstraordinært på cybersikkerhet, matematikk eller profesjonelt arbeid uten å besitte alle evner som er forbundet med en intelligenseksplosjon eller tap av menneskelig kontroll.

Løsningen er derfor ikke å la teknologiselskaper definere terminologien. Det er det motsatte: lovgivning bør regulere målbare evner, autonomi, tilgang og demonstrert risiko, i stedet for å gjøre en omstridt betegnelse til den avgjørende grensen mellom lovlig forskning og føderal forbrytelse.

Kampen din for lik utdanning viser hva som står på spill

I flere tiår har du argumentert for at tilgang til utdanning ikke skal avhenge av hvor mye penger foreldrene til et barn tjener. Du introduserte først lovgivning som skulle gjøre fireårige offentlige høyskoler og universiteter gratis i 2015. Du har vendt tilbake til temaet gjentatte ganger, og College for All Act 2025 vil gjøre offentlige høyskoler og universiteter gratis for omtrent 95 % av studentene, mens samfunnshøyskoler blir gratis for alle.

Den filosofien er direkte relevant for kunstig intelligens.

Gjennom mesteparten av menneskehetens historie har tilgang til fremragende undervisning vært knapp. Geografi, familiens inntekt, skolefinansiering og tilgjengeligheten av spesialiserte lærere påvirker alle hva et barn får mulighet til å lære.

AI gir muligheten til å endre den ligningen.

Vi ser allerede tidlige bevis. En randomisert World Bank‑studie i Nigeria fant at studenter som mottok et seks‑ukers, lærer‑støttet program med GPT‑4‑basert veiledning forbedret total testprestasjon med 0,31 standardavvik. Ved Stanford ble Tutor CoPilot testet med mer enn 700 veiledere og 1 000 studenter fra underrepresenterte samfunn; studenter hvis veiledere fikk AI‑støtte var fire prosentpoeng mer sannsynlig å mestre matematikk, med gevinster på ni poeng blant studenter med lavere‑vurderte veiledere.

Ingen av studiene beviser at AI vil løse utdanningsulikhet. Ingen krever AGI. Begge demonstrerer imidlertid retningen teknologien kan ta.

Forestill deg at denne retningen fortsetter.

Et barn i landlige Louisiana skal ikke måtte bo i nærheten av en elite‑skole for å møte en fremragende matematikklærer. En student fascinert av astronomi skal ikke måtte vente til universitetet for å utforske astrofysikk. Et barn fascinert av arkeologi skal kunne følge sin nysgjerrighet mens en AI‑veileder identifiserer hull i lesing, historie, statistikk og vitenskapelig resonnering og tilpasser undervisningen deretter.

Målet bør ikke være å erstatte lærere. Det bør være å gi lærere og studenter tilgang til ekspertise som tidligere ikke kunne leveres økonomisk én‑til‑én.

For kanskje første gang er personlig tilpasset undervisning i enorm skala teknologisk gjennomførbart. En lov som skal beskytte fremtidige generasjoner må være usedvanlig forsiktig så den ikke lukker denne døren.

Din helse‑agenda gjør det samme poenget

Din merittliste innen helse er like konsistent. Du introduserte Medicare for All Act i 2017 og gjeninnførte den i 2019, 2023 og 2025, og har gjentatte ganger argumentert for at helse bør behandles som en rettighet, ikke et privilegium.

Du har også brukt år på å angripe en annen form for helselikhet: mangelen på faktiske medisinske fagfolk i underbetjente samfunn. Dine initiativer for Community Health Center og Primary Care Workforce Expansion søkte å utvide tilgang i medisinsk underbetjente områder, mens ditt bipartiske primær‑helseforslag fra 2023 sammen med senator Roger Marshall foreslo betydelig økt finansiering til samfunns‑helse‑sentre og en utvidelse av National Health Service Corps og medisinsk residens‑pipeline. I 2025 introduserte du og senator Jeff Merkley Health Care Workforce Expansion Act, som inkluderte studie­støtte for å øke antallet leger, sykepleiere og tannleger, spesielt i rurale samfunn.

Disse politikene adresserer økonomisk knapphet og mangel på menneskelige ressurser.

AI kan hjelpe med å løse en tredje knapphet: ekspertkunnskap.

FDA anslår i dag at mer enn 10 000 sjeldne sykdommer påvirker over 30 millioner amerikanere, omtrent én av ti, og at de fleste sjeldne sykdommer fortsatt mangler godkjente behandlinger. Små pasientpopulasjoner gjør også tradisjonelle kliniske studier spesielt vanskelige.

Kunstig intelligens er ingen magisk snarvei rundt biologi eller klinisk validering. Legemidler oppdaget med AI kan mislykkes akkurat som andre legemidler. Men den endrer allerede deler av oppdagelsesprosessen.

I 2025 publiserte forskere den første randomiserte fase‑2a‑studien av rentosertib, et lite molekyl for idiopatisk pulmonal fibrose hvis mål og molekyl ble oppdaget med generativ AI. Resultatene representerte en reell klinisk milepæl, mens forskerne selv advarte om at relativt få AI‑oppdagede legemidler hadde nådd kliniske studier, og ingen hadde fullført fase 3 på det tidspunktet.

Det er akkurat den balanserte tilnærmingen vi bør ha til denne teknologien: verken hype eller avvisning.

Stadig mer kapable AI‑systemer kan integrere molekylærbiologi, kjemi, genetikk, medisinsk litteratur, bildediagnostikk, programvare, statistisk analyse og eksperimentell design. Deres verdi kan oppstå nettopp fordi de kan resonere på tvers av fagområder som mennesker historisk har delt inn i separate spesialiteter.

Det relevante spørsmålet er derfor ikke om «AGI» alene vil kurere kreft, Alzheimers, antibiotika‑resistente infeksjoner eller sjeldne genetiske lidelser. Ingen kan ansvarlig love det.

Spørsmålet er om Kongressen bør permanent forby en bredt kapabel form for intelligens før vi vet hva den kan bidra med for å løse disse problemene.

Mange av dagens mest konkrete AI‑skader krever ikke AGI

Det er et annet problem med å gjøre generell intelligens til reguleringsmål: noen av de mest konsekvente skadene AI forårsaker i dag kommer fra systemer som ikke er i nærheten av kunstig generell intelligens.

I 2020 skrev jeg på Unite.AI om hvordan Facebooks anbefalingsalgoritmer kunne forsterke feilinformasjon. Bekymringen var ikke at Facebook hadde skapt en intelligens smartere enn menneskeheten. Det var at et optimaliseringssystem designet for å maksimere engasjement kunne foretrekke å forsterke materiale som fremkaller sterkere reaksjoner, uavhengig av dets samfunnsverdi.

Konsekvensene av dårlig styrte anbefalingssystemer har siden blitt vanskeligere å avvise. Amnesty International konkluderte med at Metas algoritmer proaktivt forsterket innhold som oppfordret til hat og vold mot Rohingya i Myanmar, og økte risikoen for massevold. EU-kommisjonen har separat krevd informasjon fra YouTube, Snapchat og TikTok om risikoer knyttet til anbefalingssystemer som involverer skadelig innhold, valg og sivil diskurs, avhengighet, «kaninhull», mental helse og mindreårige.

Ingen av disse systemene trengte å styrte en regjering selv. Ingen trengte rekursiv selvforbedring. Ingen trengte supermenneskelig generell resonnering.

De trengte bare et feil mål, distribuert i tilstrekkelig skala.

Dette illustrerer et grunnleggende prinsipp for AI‑regulering: skade bestemmes ikke kun av hvor intelligent en modell er. En smal algoritme distribuert milliarder av ganger under feil insentiver kan være sosialt destruktiv. Et svært generelt system som opererer under strenge kontroller i et laboratorium, klasserom eller sykehus kan være enormt nyttig.

Regulering bør anerkjenne denne forskjellen.

Dobbeltbruksteknologi krever kontroll over bruk, tilgang og myndighet

Det samme prinsippet gjelder overvåkning.

Datamaskinsyn og mønstergjenkjennings‑teknologier kan hjelpe leger med å analysere medisinske bilder, inspisere farlige industrielle miljøer, navigere redningsroboter og automatisere oppgaver mennesker ikke bør måtte utføre.

Relaterte teknologier kan også brukes til å bygge ekstraordinært kraftige overvåkningssystemer.

En nylig undersøkelse i Washington Post fant at minst 50 polititjenestemenn var blitt anklaget, siktet eller dømt for misbruk av automatiserte nummerplateskannere for å overvåke personer for uautoriserte personlige formål. I ett tilfelle skal en politisjef ha spurt opp kjøretøy brukt av en tidligere partner og hennes tenåringsdatter omtrent 600 ganger. En senere undersøkelse økte det identifiserte antallet tjenestemenn som ble anklaget, siktet eller dømt for misbruk til minst 69.

Dette er en alvorlig teknologi‑politisk svikt.

Men merk hvor de praktiske regulatoriske håndtakene ligger. Etter undersøkelsen kunngjorde Flock at søk må kreve straffesaks‑koder, automatisert misbruk‑deteksjon vil bli obligatorisk, og standard datalagring vil falle fra 30 dager til syv. Disse tiltakene kan eller ikke kan gå langt nok, men de demonstrerer hvilke typer kontroller lovgivere kan regulere: autorisasjon, formålsbegrensning, revisjonsspor, lagringstid, menneskelig ansvarlighet og straffer for misbruk.

Svaret på misbruk av overvåkning er ikke å forby datamaskinsyn.

Svaret på uautoriserte cyberangrep er ikke nødvendigvis å forby en modell som kan utføre cybersikkerhet.

Svaret er å regulere hvilke systemer som får lov til å gjøre hva, hvilke ressurser de kan få tilgang til, hvem som kan autorisere konsekvensfulle handlinger og hva som skjer når grensene overtråkes.

Du har allerede skrevet deler av en bedre reguleringsmodell

Interessant nok inneholder et annet lovforslag du introduserte i år flere idéer som peker mot en mer produktiv tilnærming.

Jeg har lest hele teksten til ditt Artificial Intelligence Data Center Moratorium Act. Selv om jeg er uenig i å stoppe bygging av datasentre generelt, er betingelsene du foreslår for å etter hvert løfte moratoriet mye mer konkrete enn et generelt forbud mot en kategori av intelligens.

Lovforslaget ditt sier at AI‑datasentre ikke skal øke forbrukernes strømregning, forverre klimaendringer eller skade miljøet. Det krever at berørte lokalsamfunn får en stemme, sterke arbeidsstandarder og offentlig rapportering om vannforbruk, energiforbruk, klimagassutslipp, avløpsvann, kjøle‑kjemikalier, støy, arbeidsplasser og andre påvirkninger.

Dette er målbare eksternaliteter. Det er akkurat her regulering kan være effektiv.

Jeg vil gå videre på energi. AI‑industrien bør ikke få lov til å bruke raskt økende strømbehov som en unnskyldning for å forlenge levetiden til ubegrensede kullverk eller overføre infrastrukturkostnader til vanlige strømbrukere. Nye hyperskala‑prosjekter bør kreve at de tilfører betydelig ekstra lav‑ eller null‑karbon‑produksjon til nettet og oppgir sine vann‑ og energipåvirkninger.

Det finnes allerede lovende eksempler på hvordan en slik overgang kan se ut. Exowatts P3‑system fanger solenergi som varme, lagrer den og konverterer den til leverbar strøm, delvis designet for datasenter‑belastning. Og bare denne uken kunngjorde Fervo Energy en 396‑megawatt‑avtale med Google for 24/7 karbonfri forsterket geotermisk kraft i Utah, med en opsjon som kan bringe totalen nær én gigawatt.

AI‑s energibehov kan bli enten en grunn til å utvide skitten infrastruktur eller en enorm etterspørselsmotor for ny ren‑energi‑teknologi.

Regjeringens politikk kan hjelpe med å bestemme hvilket utfall som inntreffer.

Og ditt eget American AI Sovereign Wealth Fund Act, introdusert i juni, inneholder et annet prinsipp jeg støtter sterkt: dersom AI skaper ekstraordinær økonomisk verdi, bør vanlige folk dele på den verdien. Forslaget ditt forestiller seg eksplisitt at AI‑generert rikdom til slutt skal bidra til helsevesen, utdanning, bolig og et sunt miljø.

Det anerkjenner noe viktig: kunstig intelligens har ekstraordinær potensiell verdi. Det virkelige politiske spørsmålet er hvordan den verdien kontrolleres og distribueres.

Et bedre alternativ til et permanent forbud

Jeg vil oppfordre deg til å beholde de sterkeste delene av Ban Artificial Superintelligence Act: den føderale regulatoren, uavhengig teknisk ekspertise, obligatorisk tilsyn med grensetechnologier, meningsfulle straffer og internasjonal koordinering. Men jeg vil fundamentalt endre hva som utløser forbud og hvordan gunstig utvikling kan fortsette.

• Reguler målbare farlige evner i stedet for AGI‑ eller ASI‑betegnelsen. Etabler teknisk definerte terskler rundt autonom cyber‑offensiv, biologisk eller kjemisk våpen‑muliggjøring, omgåelse av nedstengning, uautorisert replikasjon, strategisk bedrag og andre evner som kan forårsake katastrofal skade.
• Krev lisensiering og uavhengige evalueringer over grensetechnologiers terskler. Utviklere må demonstrere sikkerhet før de distribuerer systemer med spesifiserte farlige evner, med evalueringer som gjentas etter hvert som modeller får nye verktøy, tillatelser eller autonomi. Alvorlige hendelser skal medføre obligatorisk rapporteringsplikt.
• Gi en uavhengig regulator reell håndhevelsesmakt. Etaten du foreslår skal kunne revidere grenselaboratorier, innhente informasjon, kreve utbedring og suspendere farlige distribusjoner. Men standardene skal være transparente, teknisk målbare og periodisk gjennomgått av uavhengige vitenskapelige eksperter.
• Forby skadelige anvendelser uavhengig av hvor intelligent den underliggende modellen er. Uautorisert cyber‑angrep, ulovlig overvåkning, farlig biologisk bistand og andre uakseptable bruksområder skal forbli ulovlige enten de utføres med en smal modell, et AGI‑system eller konvensjonell programvare.
• Skap kontrollerte veier for samfunnsnyttig forskning. Medisin, vitenskapelig oppdagelse, utdanning, cybersikkerhetsforsvar og alignments‑forskning bør ha regulerte mekanismer som gir tilgang til kraftige modeller under passende menneskelig tilsyn, validering, sikkerhet og revisjonskrav.
• Få AI‑infrastruktur til å betale sine fulle sosiale og miljømessige kostnader samtidig som du koordinerer internasjonalt. Beskytt strømbrukere, krev transparent rapportering av vann‑ og energiforbruk, akselerer ekstra ren produksjon, oppretthold meningsfulle samfunns‑ og arbeidsbeskyttelser, og samarbeid med allierte om felles kapabilitetsstandarder, evalueringer og eksportkontroller.

Dette betyr ikke at vi skal stole på Silicon Valley.

Tvert imot.

Teknologibransjen har gitt Kongressen god grunn til å ikke stole på frivillig selvregulering. OpenAI‑ og Anthropic‑hendelsene alene demonstrerer hvorfor grensetechnologi krever ekstern gransking og håndhevbare sikkerhetsstandarder.

Men mistillit til teknologiselskaper bør ikke bli mistillit til teknologisk fremgang i seg selv.

Valget er ikke hensynsløs akselerasjon eller forbud

Senator Sanders, gjennom hele din karriere har du gjentatte ganger kjempet mot knapphet.

Du har kjempet mot ideen om at en families inntekt skal avgjøre om et barn får utdanning. Du har kjempet mot et helsevesen der en persons bankkonto eller postnummer kan påvirke hvilken behandling de får. Du har kjempet mot økonomiske strukturer der enorme gevinster tilfaller en liten gruppe mens resten bærer kostnadene.

Kunstig intelligens kan forverre hvert av disse problemene.

Den kan konsentrere enestående rikdom. Den kan erstatte arbeidere uten å dele produktivitetsgevinster. Den kan muliggjøre overvåkning, manipulering og cyber‑angrep. Den kan plassere ekstraordinær makt i hendene på noen få selskaper.

Disse risikoene rettferdiggjør regulering.

Men AI kan også redusere en av de eldste former for ulikhet i menneskehetens historie: ulikheten i tilgang til ekspertise.

En verden hvor hvert barn kan få personlig tilpasset undervisning, hver lege kan trekke på ekstraordinær analytisk støtte, hver forsker kan undersøke århundrer med akkumulert forskning, og sykdommer som ignoreres fordi pasientpopulasjonene er for små får langt mer vitenskapelig oppmerksomhet, er også verdt å kjempe for.

Vi bør ikke måtte velge mellom den framtiden og AI‑sikkerhet.

Det bedre målet er å gjøre kraftig AI vanskelig å misbruke, vanskelig å miste kontrollen over, tilstrekkelig transparent til å kunne revideres, dyrt å distribuere uforsiktig, og bredt tilgjengelig for samfunnsnyttige formål.

Forby handlinger som truer menneskeheten. Lisensier farlige evner. Straff uaktsom og ondsinnet distribusjon. Krev at selskaper internaliserer miljøkostnadene ved sin infrastruktur. Beskytt arbeidere. Gi publikum en andel av de økonomiske gevinstene. Og skap en uavhengig regulator som kan si selv til verdens største teknologiselskaper «nei».

Men vær så snill, ikke definer forbudt intelligens så bredt at det å matche menneskelig kognitiv kapasitet på mange domener i seg selv blir en forbrytelse.

Livsarbeidet ditt har handlet om å utvide tilgang til ting som tidligere var forbeholdt de priviligerte.

Avansert kunstig intelligens kan bli den største motoren for konsentrert makt vi noen gang har skapt.

Eller den kan bli ett av de største verktøyene som noen gang er laget for å demokratisere kunnskap, utdanning, medisin og vitenskapelig kapasitet.

God lovgivning kan hjelpe med å bestemme hvilken fremtid vi får.