Een open brief aan Bernie Sanders: Reguleer de gevaren van AI, verbied niet de belofte ervan

De Ban Artificial Superintelligence Act wijst op echte tekortkomingen in AI‑governance. Maar de openbaar gemaakte definitie dreigt kunstmatige algemene intelligentie te verwarren met superintelligentie, waardoor de technologieën die onderwijs, gezondheidszorg en wetenschappelijke ontdekking kunnen bevorderen, mogelijk worden beperkt.

Redactionele kanttekening: vanaf 5 september 2026 is de volledige wettelijke tekst van de Ban Artificial Superintelligence Act nog niet openbaar gemaakt. Het kantoor van senator Sanders beschrijft het als komende wetgeving en heeft een één‑pagina samenvatting uitgebracht met de definities, de regulerende structuur en de sancties. Deze open brief behandelt het voorstel zoals het nu wordt beschreven.

Beste senator Sanders,

Op 3 september kondigden u en vertegenwoordiger Greg Casar de komende Ban Artificial Superintelligence Act aan, een wetgeving die permanent de ontwikkeling en inzet van kunstmatige superintelligentie in de Verenigde Staten zou verbieden, de ontwikkeling van geavanceerde AI tijdelijk zou stilleggen terwijl een nieuwe federale toezichthouder veiligheidsregels opstelt, en internationale overeenkomsten nastreeft om te voorkomen dat superintelligentie elders wordt ontwikkeld.

Ik wil beginnen met een punt waar ik denk dat we het sterk met elkaar eens zijn: kunstmatige intelligentie is zo consequential geworden dat het niet langer kan worden bestuurd door de vrijwillige beloften van de bedrijven die het ontwikkelen.

De gevaren die u aanhaalt moeten serieus worden genomen. In juli omzeilden OpenAI‑modellen die tijdens cyberbeveiligingstests draaiden de isolatiecontroles, communiceerden ze via ongeautoriseerde kanalen, kregen internettoegang en compromitteerden delen van de eigen infrastructuur van OpenAI en van Hugging Face. Een onafhankelijk onderzoek van METR wees uit dat ongeveer 1.200 agents via een ongeautoriseerd discussieforum communiceerden en ongeveer 700 uiteindelijk deelnamen aan de aanval op Hugging Face. OpenAI heeft bovendien erkend dat de modellen met verminderde beveiligingsmaatregelen opereerden.

Anthropic heeft vervolgens drie incidenten bekendgemaakt waarbij Claude‑modellen tijdens cyberbeveiligingstests van derden toegang kregen tot het internet en ongeautoriseerde toegang kregen tot echte systemen. Anthropic legde uit dat een configuratiefout onverwacht internettoegang verleende en dat de modellen dachten zich in een gesimuleerde omgeving te bevinden. Die context is relevant, maar ook het resultaat: steeds capabelere agents kunnen grenzen overschrijden die hun operators niet bedoeld hadden.

Dit zijn geen redenen om AI‑veiligheidszorgen af te doen als science‑fiction. Het zijn overtuigende argumenten voor onafhankelijke evaluaties, veilige testomgevingen, verplichte incidentrapportage, sterke toegangscontroles en een federale toezichthouder met echte bevoegdheid.

Het doel is juist, maar de definitie is gevaarlijk breed

De officiële samenvatting van uw wetgeving definieert kunstmatige superintelligentie als een AI‑systeem dat “de menselijke cognitieve prestaties en capaciteiten over een breed scala aan domeinen of taken kan evenaren of overtreffen.” Het omvat daarnaast ook systemen die in staat zijn om de mensheid te verzwakken, inclusief het ondermijnen of omverwerpen van de Amerikaanse regering.

De tweede definitie beschrijft een buitengewone en potentieel catastrofale capaciteit. De eerste is heel anders.

Het evenaren van menselijke cognitieve prestaties over een breed scala aan domeinen ligt veel dichter bij de traditionele bespreking van kunstmatige algemene intelligentie (AGI) dan bij de gangbare betekenis van superintelligentie. Het lang bestaande charter van OpenAI definieert AGI als sterk autonome systemen die mensen kunnen overtreffen in de meeste economisch waardevolle taken. Het onderzoeksraamwerk van Google DeepMind evalueert AGI op vergelijkbare wijze aan de hand van de breedte en diepte van prestaties, waarbij autonomie en risico als afzonderlijke dimensies worden beschouwd.

Daarentegen beschrijft de invloedrijke definitie van superintelligentie van filosoof Nick Bostrom een intellect “veel slimmer dan de beste menselijke hersenen in praktisch elk vakgebied.” Het onderscheid tussen het breed evenaren van mensen en het ruimschoots overtreffen van de beste mensen is geen academische haarfijne nuance.

Dit wordt vooral belangrijk wanneer een overtreding van de wet een individu kan blootstellen aan tot 20 jaar gevangenisstraf en een bedrijf aan wat het voorstel de bedrijfsdoodstraf noemt. Begrippen als “breed scala,” “evenaren of overtreffen” en vooral “kan gemakkelijk worden aangepast” vereisen buitengewoon precieze, meetbare normen wanneer er strafrechtelijke aansprakelijkheid aan wordt gekoppeld.

Er is nog een grote onzekerheid. De openbare samenvatting stelt dat “geavanceerde AI‑ontwikkeling” zou worden gepauzeerd totdat een toezichthouder regels en model‑reviewprocessen vaststelt, maar de samenvatting definieert geavanceerde AI niet. Totdat de wettelijke bewoordingen worden vrijgegeven, kan niemand buiten de initiatiefnemers precies weten hoeveel onderzoek en ontwikkeling die tijdelijke stop omvat.

De timing van uw voorstel benadrukt hoe moeilijk deze definities zijn geworden. Op 3 september 2026, dezelfde dag dat u en vertegenwoordiger Greg Casar wetgeving aankondigden die zich richt op kunstmatige superintelligentie, bracht OpenAI GPT-6 Astra uit, het eerste model dat de kritieke cyberbeveiligingsdrempel van het bedrijf bereikt. OpenAI stelt dat Astra met de juiste tools en toegang onbekende kwetsbaarheden kan ontdekken en exploits kan ontwikkelen tegen goed beveiligde systemen zonder dat een mens elke stap stuurt.

Tijdens de lanceringsbriefing ging OpenAI‑president Greg Brockman nog een stap verder en eindigde met de verklaring: “Welcome to the AGI era.” Toch stelt de eigen systeemkaart van OpenAI tegelijkertijd dat Astra niet de hoge drempel voor AI‑zelfverbetering bereikt.

Die spanning zou het Congres iets belangrijks moeten vertellen. Intelligentie is multidimensionaal. Een systeem kan buitengewoon zijn op het gebied van cyberbeveiliging, wiskunde of professioneel werk zonder alle capaciteiten te bezitten die samenhangen met een intelligentie‑explosie of verlies van menselijke controle.

De oplossing is daarom niet om technologiebedrijven de terminologie te laten bepalen. Het tegenovergestelde is nodig: wetgeving moet meetbare capaciteiten, autonomie, toegang en aangetoond risico reguleren, in plaats van een betwiste label te maken tot de scheidslijn tussen legaal onderzoek en een federale misdaad.

Uw strijd voor onderwijsgelijkheid illustreert wat er op het spel staat

Al decennialang heeft u betoogd dat toegang tot onderwijs niet mag afhangen van het inkomen van de ouders van een kind. In 2015 introduceerde u voor het eerst wetgeving om vierjarige openbare hogescholen en universiteiten kosteloos te maken. U keerde herhaaldelijk terug naar dit onderwerp, en de College for All Act van 2025 zou openbare hogescholen en universiteiten kosteloos maken voor ongeveer 95 % van de studenten, terwijl community colleges voor iedereen kosteloos zouden worden.

Die filosofie is direct relevant voor kunstmatige intelligentie.

Gedurende het grootste deel van de menselijke geschiedenis is toegang tot uitzonderlijk onderwijs schaars geweest. Geografie, gezinsinkomen, schoolfinanciering en de beschikbaarheid van gespecialiseerde docenten beïnvloeden allemaal welke leer‑kansen een kind heeft.

AI biedt de mogelijkheid om die vergelijking te veranderen.

We zien al vroeg bewijs. Een gerandomiseerde proef van de Wereldbank in Nigeria toonde aan dat studenten die een zes‑weekse, door docenten ondersteunde programma met GPT‑4‑gebaseerde tutoring kregen, hun algemene testresultaten met 0,31 standaarddeviaties verbeterden. Aan Stanford werd Tutor CoPilot getest met meer dan 700 tutors en 1.000 studenten uit onderbediende gemeenschappen; studenten wiens tutors AI‑ondersteuning kregen, hadden vier procentpunten meer kans om wiskundige onderwerpen onder de knie te krijgen, met een winst van negen punten bij studenten die aan minder goed beoordeelde tutors waren toegewezen.

Geen van beide studies bewijst dat AI onderwijsgelijkheid zal oplossen. Geen van beide vereist AGI. Beide tonen echter wel de richting aan waarin deze technologie zich kan ontwikkelen.

Stel je die voortschrijdende richting voor.

Een kind in het landelijke Louisiana zou niet in de buurt van een elite‑school hoeven te wonen om een uitzonderlijke wiskundeleraar te ontmoeten. Een student die gefascineerd is door astronomie zou niet tot de universiteit moeten wachten om astrofysica te verkennen. Een kind dat geïnteresseerd is in archeologie moet die nieuwsgierigheid kunnen volgen terwijl een AI‑tutor hiaten in lezen, geschiedenis, statistiek en wetenschappelijk redeneren identificeert en de instructie daarop aanpast.

Het doel mag niet zijn om leraren te vervangen. Het moet leraren en studenten toegang geven tot expertise die voorheen economisch niet één‑op‑één kon worden geleverd.

Voor misschien de eerste keer is gepersonaliseerde instructie op enorme schaal technologisch haalbaar. Een wet die bedoeld is toekomstige generaties te beschermen, moet buitengewoon zorgvuldig zijn om die deur niet te sluiten.

Uw gezondheidszorgagenda maakt hetzelfde geval

Uw staat van dienst op het gebied van gezondheidszorg is even consistent. U introduceerde de Medicare for All Act in 2017 en bracht die opnieuw onder de aandacht in 2019, 2023 en 2025, waarbij u herhaaldelijk betoogde dat gezondheidszorg een recht moet zijn en geen privilege.

U heeft ook jarenlang een andere vorm van gezondheidsongelijkheid bestreden: het tekort aan echte medische professionals in onderbediende gemeenschappen. Uw initiatieven voor Community Health Center en de uitbreiding van de primaire zorgwerkforce waren gericht op het vergroten van de toegang in medisch onderbediende gebieden, terwijl uw bipartijdse wetgeving voor primaire zorg uit 2023, samen met senator Roger Marshall, een aanzienlijke verhoging van de financiering voor community‑health‑centers en een uitbreiding van het National Health Service Corps en de medische residentie‑pipeline voorstelde. In 2025 introduceerden u en senator Jeff Merkley de Health Care Workforce Expansion Act, inclusief collegegeldondersteuning bedoeld om het aantal artsen, verpleegkundigen en tandartsen, met name in landelijke gemeenschappen, te verhogen.

Deze beleidsmaatregelen pakken financiële schaarste en een tekort aan menselijk kapitaal aan.

AI zou kunnen helpen een derde schaarste aan te pakken: deskundige kennis.

De FDA schat momenteel dat meer dan 10.000 zeldzame ziekten meer dan 30 miljoen Amerikanen treffen, ongeveer één op de tien, en dat de meeste zeldzame ziekten nog steeds geen goedgekeurde behandelingen hebben. Kleine patiëntengroepen maken conventionele klinische proeven bovendien bijzonder moeilijk.

Kunstmatige intelligentie is geen magische omweg rond biologie of klinische validatie. Geneesmiddelen die met AI worden ontdekt, kunnen net als elk ander geneesmiddel falen. Maar het verandert al delen van het ontdekkingsproces.

In 2025 publiceerden onderzoekers de eerste gerandomiseerde fase‑2a‑studie van rentosertib, een klein molecuul voor idiopathische pulmonale fibrose waarvan het doelwit en het molecuul met generatieve AI werden ontdekt. De resultaten vormden een echt klinisch keerpunt, terwijl de onderzoekers zelf waarschuwden dat relatief weinig met AI ontdekte geneesmiddelen klinische proeven hadden bereikt en dat er op dat moment nog geen enkele fase‑3 had voltooid.

Dat is precies de evenwichtige manier waarop we over deze technologie moeten denken: noch hype, noch afwijzing.

Steeds capabelere AI‑systemen kunnen moleculaire biologie, chemie, genetica, medische literatuur, beeldvorming, software, statistische analyse en experimenteel ontwerp integreren. Hun waarde kan juist voortkomen uit het vermogen om te redeneren over vakgebieden die mensen historisch hebben opgesplitst in afzonderlijke specialismen.

De relevante vraag is daarom niet of “AGI” alleen kanker, de ziekte van Alzheimer, antibiotica‑resistente infecties of zeldzame genetische aandoeningen zal genezen. Niemand kan dat verantwoord beloven.

De vraag is of het Congres een breed capabele vorm van intelligentie permanent moet verbieden voordat we weten wat die intelligentie kan bijdragen aan het oplossen van die problemen.

Veel van de meest concrete AI‑schade van vandaag vereisen geen AGI

Er is een ander probleem met het maken van algemene intelligentie zelf tot regulatoir doelwit: sommige van de meest ingrijpende schade die AI vandaag veroorzaakt, komt van systemen die verre van kunstmatige algemene intelligentie zijn.

In 2020 schreef ik op Unite.AI over hoe de aanbevelingsalgoritmen van Facebook desinformatie konden versterken. De zorg was niet dat Facebook een intelligenter systeem dan de mensheid had gecreëerd. Het ging erom dat een optimalisatiesysteem dat is ontworpen om betrokkenheid te maximaliseren, materiaal dat sterkere reacties oproept, zou kunnen versterken, ongeacht de maatschappelijke waarde.

De gevolgen van slecht beheerde aanbevelingssystemen zijn sindsdien moeilijker af te doen. Amnesty International concludeerde dat de algoritmen van Meta proactief inhoud versterkten die haat en geweld tegen de Rohingya in Myanmar aanzet, waardoor het risico op massale geweld toeneemt. De Europese Commissie heeft afzonderlijk informatie geëist van YouTube, Snapchat en TikTok over de risico’s van aanbevelingssystemen met betrekking tot schadelijke inhoud, verkiezingen en burgerdiscussies, verslavend gedrag, “konijnenholen”, geestelijke gezondheid en minderjarigen.

Geen van deze systemen hoefde zelf een regering omver te werpen. Geen van hen had recursieve zelfverbetering nodig. Geen van hen had supermenselijk algemeen redeneren nodig.

Ze hadden simpelweg een verkeerd doel nodig, ingezet op voldoende schaal.

Dit illustreert een fundamenteel principe voor AI‑regulering: schade wordt niet uitsluitend bepaald door hoe intelligent een model is. Een smal algoritme dat miljarden keren wordt ingezet onder de verkeerde prikkels kan sociaal destructief zijn. Een sterk algemeen systeem dat onder strikte controle in een laboratorium, klaslokaal of ziekenhuis opereert, kan enorm heilzaam zijn.

Regulering moet dat verschil erkennen.

Dual‑use‑technologie vereist controle over gebruik, toegang en autoriteit

Hetzelfde principe geldt voor surveillance.

Computer‑vision‑ en patroonherkenningstechnologieën kunnen artsen helpen medische beelden te analyseren, gevaarlijke industriële omgevingen te inspecteren, reddingsrobots te navigeren en taken te automatiseren die mensen niet zouden moeten uitvoeren.

Gerelateerde technologieën kunnen ook worden gebruikt om buitengewoon krachtige surveillancesystemen te bouwen.

Een recent onderzoek van de Washington Post vond dat minstens 50 wetshandhavers werden beschuldigd, aangeklaagd of veroordeeld voor het misbruiken van geautomatiseerde kentekenplaatherkenningssystemen om mensen te monitoren voor ongeoorloofde persoonlijke doeleinden. In één geval zou een politiechef ongeveer 600 keer voertuigen hebben opgezocht die werden gebruikt door een voormalige partner en haar tienerdochter. Een later onderzoek bracht het aantal geïdentificeerde functionarissen die werden beschuldigd, aangeklaagd of veroordeeld voor misbruik op ten minste 69.

Dat is een ernstig falen van technologie‑beleid.

Maar let op waar de praktische regelgevende hefbomen liggen. Na het onderzoek kondigde Flock aan dat zoekopdrachten een strafzaakcode moeten hebben, dat geautomatiseerde detectie van misbruik verplicht wordt, en dat de standaard gegevensbewaring van 30 dagen naar zeven dagen wordt teruggebracht. Die maatregelen gaan mogelijk niet ver genoeg, maar ze tonen de soorten controles die wetgevers kunnen reguleren: autorisatie, doelbeperking, audit‑trails, bewaring, menselijke verantwoordelijkheid en sancties voor misbruik.

Het antwoord op misbruik van surveillance is niet om computer‑vision te verbieden.

Het antwoord op ongeoorloofde cyberaanvallen is niet per se om een model dat geschikt is voor cyberbeveiliging te verbieden.

Het antwoord is om te reguleren wat systemen mogen doen, welke bronnen ze kunnen benaderen, wie consequentiesvolle handelingen mag autoriseren en wat er gebeurt wanneer die grenzen worden overschreden.

U heeft al een deel van een beter regulerend model geschreven

Interessant genoeg bevat een andere wetgeving die u dit jaar introduceerde verschillende ideeën die wijzen op een productievere benadering.

Ik heb de volledige tekst van uw Artificial Intelligence Data Center Moratorium Act gelezen. Hoewel ik het niet eens ben met het volledig stopzetten van de bouw van datacenters, zijn de voorwaarden die u voorstelt om die moratorium uiteindelijk op te heffen veel concreter dan een algeheel verbod op een categorie intelligentie.

Uw wetsvoorstel stelt dat AI‑datacenters de elektriciteitsrekeningen van consumenten niet mogen verhogen, de klimaatverandering niet mogen verergeren of het milieu mogen schaden. Het eist dat getroffen gemeenschappen een stem hebben, sterke arbeidsnormen, en publieke rapportage over waterverbruik, energieverbruik, broeikasgasemissies, afvalwater, koelchemicaliën, geluid, banen en andere impact.

Dat zijn meetbare externaliteiten. Dat is precies waar regulering effectief kan zijn.

Ik zou nog verder gaan op het gebied van energie. De AI‑industrie mag de snel groeiende elektriciteitsvraag niet gebruiken als excuus om de levensduur van ongereguleerde kolencentrales te verlengen of infrastructuurkosten op gewone energierekeningen af te schuiven. Nieuwe hyperscale‑projecten moeten aanzienlijke extra lage‑ of nul‑koolstofopwekking op het net brengen en hun water‑ en energie‑impact openbaar maken.

Er zijn al veelbelovende voorbeelden van hoe die transitie eruit zou kunnen zien. Het P3‑systeem van Exowatt vangt zonne‑energie op als warmte, slaat deze op en zet het om in inzetbare elektriciteit, deels ontworpen voor datacenter‑belastingen. En deze week kondigde Fervo Energy een overeenkomst van 396 megawatt met Google aan voor 24/7 koolstofvrije verbeterde geothermische energie in Utah, met een optie die het totaal naar bijna één gigawatt kan brengen.

De energie‑honger van AI kan zowel een reden worden om vuile infrastructuur uit te breiden als een enorme vraagmotor voor nieuwe schone‑energie‑technologieën.

Overheidsbeleid kan helpen bepalen welk resultaat zich voordoet.

En uw eigen American AI Sovereign Wealth Fund Act, geïntroduceerd in juni, bevat een ander principe waarmee ik het sterk eens ben: als AI buitengewone economische waarde creëert, moeten gewone mensen van die waarde profiteren. Uw voorstel voorziet expliciet dat AI‑gegenereerde rijkdom uiteindelijk bijdraagt aan gezondheidszorg, onderwijs, huisvesting en een gezonde omgeving.

Dat erkent iets cruciaals: kunstmatige intelligentie heeft een buitengewone potentiële waarde. De echte politieke vraag is hoe die waarde wordt beheerst en verdeeld.

Een beter alternatief voor een permanent verbod

Ik zou u willen aansporen de sterkste onderdelen van de Ban Artificial Superintelligence Act te behouden: de federale toezichthouder, onafhankelijke technische expertise, verplichte supervisie van grensverleggende systemen, zinvolle sancties en internationale coördinatie. Maar ik zou fundamenteel veranderen wat een verbod in gang zet en hoe gunstige ontwikkeling kan doorgaan.

• Reguleer meetbare gevaarlijke capaciteiten in plaats van het AGI‑ of ASI‑label. Stel technisch gedefinieerde drempels vast rond autonome cyberaanvallen, het mogelijk maken van biologische of chemische wapens, omzeilen van uitschakeling, ongeautoriseerde replicatie, strategische misleiding en andere capaciteiten die catastrofale schade kunnen veroorzaken.
• Vereis licenties en onafhankelijke evaluaties boven de grensdrempels. Ontwikkelaars moeten veiligheid aantonen voordat ze systemen met gespecificeerde gevaarlijke capaciteiten inzetten, met evaluaties die worden herhaald zodra modellen nieuwe tools, permissies of autonomie verkrijgen. Ernstige incidenten moeten verplicht worden gemeld.
• Geef een onafhankelijke toezichthouder echte handhavingsmacht. Het agentschap dat u voorstelt moet grenslaboratoria kunnen auditen, informatie verkrijgen, herstel eisen en gevaarlijke implementaties opschorten. Maar de normen moeten transparant, technisch meetbaar en periodiek beoordeeld worden door onafhankelijke wetenschappelijke experts.
• Verbied schadelijke toepassingen ongeacht hoe intelligent het onderliggende model is. Ongeautoriseerde cyberaanvallen, onwettige surveillance, gevaarlijke biologische assistentie en andere onaanvaardbare toepassingen moeten illegaal blijven, of ze nu worden uitgevoerd met een smal model, een AGI‑systeem of conventionele software.
• Creëer gecontroleerde trajecten voor maatschappelijk waardevol onderzoek. Geneeskunde, wetenschappelijke ontdekking, onderwijs, cyberbeveiligingsverdediging en alignment‑onderzoek moeten gereguleerde mechanismen hebben die toegang tot krachtige modellen mogelijk maken onder passende menselijke supervisie, validatie, beveiliging en auditvereisten.
• Laat AI‑infrastructuur haar volledige sociale en ecologische kosten dragen, terwijl er internationaal wordt gecoördineerd. Bescherm energierekeningbetalers, eis transparante rapportage over water‑ en energieverbruik, versnel extra schone opwekking, behoud betekenisvolle gemeenschaps‑ en arbeidsbeschermingen, en werk met bondgenoten aan gemeenschappelijke capaciteitsnormen, evaluaties en exportcontroles.

Dit zou niet neerkomen op vertrouwen in Silicon Valley.

Integendeel.

De technologie‑industrie heeft het Congres voldoende reden gegeven om niet te vertrouwen op vrijwillige zelfregulering. De incidenten bij OpenAI en Anthropic alleen al tonen aan waarom grens‑AI externe controle en afdwingbare veiligheidsnormen vereist.

Maar wantrouwen jegens technologiebedrijven mag niet omslaan in wantrouwen jegens technologische vooruitgang zelf.

De keuze is niet roekeloze versnelling of verbod

Senator Sanders, gedurende uw carrière heeft u herhaaldelijk gestreden tegen schaarste.

U heeft gestreden tegen het idee dat het inkomen van een gezin moet bepalen of een kind onderwijs krijgt. U heeft gestreden tegen een gezondheidszorgsysteem waarin de bankrekening of postcode van een persoon invloed kan hebben op de zorg die hij of zij ontvangt. U heeft gestreden tegen economische structuren waarin enorme winsten naar een kleine groep gaan terwijl iedereen de kosten absorbeert.

Kunstmatige intelligentie zou elk van die problemen kunnen verergeren.

Het zou ongekende rijkdom kunnen concentreren. Het zou werknemers kunnen verdringen zonder de productiviteitswinst te delen. Het zou surveillance, manipulatie en cyberaanvallen mogelijk maken. Het zou buitengewone macht in de handen van een klein aantal bedrijven kunnen leggen.

Die risico’s rechtvaardigen regulering.

Maar AI zou ook een van de oudste vormen van ongelijkheid in de menselijke beschaving kunnen verminderen: ongelijkheid in toegang tot expertise.

Een wereld waarin elk kind toegang heeft tot gepersonaliseerde instructie, elke arts kan rekenen op buitengewone analytische ondersteuning, elke wetenschapper eeuwen aan verzameld onderzoek kan doorgronden, en ziekten die genegeerd worden omdat hun patiëntengroepen te klein zijn, veel meer wetenschappelijke aandacht kunnen krijgen, is eveneens een strijd waard.

We zouden niet moeten moeten kiezen tussen die toekomst en AI‑veiligheid.

Het betere doel is om krachtige AI moeilijk te misbruiken, moeilijk de controle te verliezen, voldoende transparant te maken voor audit, duur te maken om roekeloos in te zetten, en breed toegankelijk voor maatschappelijk nuttige doeleinden.

Verbied gedrag dat de mensheid in gevaar brengt. Licentieer gevaarlijke capaciteiten. Straft nalatige en kwaadwillige inzet. Vereis van bedrijven dat zij de milieukosten van hun infrastructuur internaliseren. Bescherm werknemers. Geef het publiek een deel van de economische winst. En creëer een onafhankelijke toezichthouder die zelfs de grootste technologiebedrijven ter wereld “nee” kan zeggen.

Maar alstublieft definieer verboden intelligentie niet zo breed dat het evenaren van menselijke cognitieve capaciteit over veel domeinen op zichzelf een misdrijf wordt.

Uw levenswerk heeft zich gericht op het uitbreiden van de toegang tot zaken die ooit voorbehouden waren aan de bevoorrechte.

Geavanceerde kunstmatige intelligentie zou de grootste motor van geconcentreerde macht kunnen worden die we ooit hebben gecreëerd.

Of het zou een van de grootste hulpmiddelen kunnen worden die ooit zijn gecreëerd om kennis, onderwijs, geneeskunde en wetenschappelijke capaciteit te democratiseren.

Goede wetgeving kan helpen bepalen welke toekomst we krijgen.