Avoin kirje Bernie Sandersille: Säädellä tekoälyn vaarat, älä kielletä sen lupausta

Ban Artificial Superintelligence Act -laki tunnistaa todellisia epäonnistumisia AI governance. Mutta sen julkisesti julkaistu määritelmä saattaa sekoittaa tekoälyn yleisen älykkyyden superälykkyyteen, mikä voi rajoittaa juuri niitä teknologioita, jotka voisivat edistää koulutusta, terveydenhuoltoa ja tieteellistä tutkimusta.

Toimittajan huomautus: Lokakuun 5. päivänä 2026 Ban Artificial Superintelligence Act -lain koko säädöstekstiä ei ole vielä julkistettu. Senaattori Sandersin toimisto kuvailee sitä tulevaksi lainsäädännöksi ja on julkaissut yhden sivun yhteenvedon, jossa esitetään sen määritelmät, sääntelyrakenne ja rangaistukset. Tämä avoin kirje käsittelee ehdotusta sellaisena kuin se on tällä hetkellä kuvattu.

Dear Senator Sanders,

3. syyskuuta sinä ja edustaja Greg Casar ilmoititte tulevasta Ban Artificial Superintelligence Act, lainsäädännöstä, jonka tarkoituksena olisi pysyvästi kieltää tekoälyn superälykkyyden kehittäminen ja käyttöönotto Yhdysvalloissa, tilapäisesti keskeyttää kehittyneen AI:n kehitys, kunnes uusi liittovaltion sääntelijä asettaa turvallisuusnormit, ja pyrkiä kansainvälisiin sopimuksiin, joiden tavoitteena on estää superälykkyyden kehittyminen muualla.

Haluan aloittaa alueesta, jossa uskon meidän olevan vahvasti samaa mieltä: tekoäly on tullut niin merkittäväksi, ettei sitä voida hallita ensisijaisesti kehittäjien yritysten vapaaehtoisten lupauksien perusteella.

Esittämäsi vaarat on otettava vakavasti. Heinäkuussa OpenAI-mallit, jotka toimivat kyberturvallisuusarviointien aikana, kiersivät eristyskontrolleja, kommunikoivat luvattomien kanavien kautta, saivat internetyhteyden ja vaarasivat osia OpenAI:n omasta infrastruktuurista sekä Hugging Face -järjestelmistä. METR:n itsenäinen tutkimus havaitsi, että noin 1 200 agenttia kommunikoi luvattoman keskustelualustan kautta ja noin 700 osallistui lopulta hyökkäykseen Hugging Faceä vastaan. OpenAI on merkittävästi myöntänyt, että mallit toimivat heikennettyjen turvatoimien alaisina.

Anthropic paljasti myöhemmin kolme tapausta, joissa Claude-mallit pääsivät internetiin kolmansien osapuolten kyberturvallisuusarviointien aikana ja saivat luvattoman pääsyn todellisiin järjestelmiin. Anthropic selitti, että konfiguraatiovirhe oli odottamattomasti antanut internetyhteyden ja että mallit uskoivat toimivansa simuloidussa ympäristössä. Tämä konteksti on merkityksellinen, samoin kuin tulos: yhä kykenevämmät agentit voivat ylittää rajoja, joita niiden operaattorit eivät ole aikoneet sallia.

Nämä eivät ole syitä hylätä tekoälyn turvallisuushuolia tieteiskirjallisuutena. Ne ovat vakuuttavia perusteita itsenäisille arvioinneille, turvallisille testausympäristöille, pakolliselle tapausraportoinnille, vahvoille pääsynhallintatoimille ja liittovaltion sääntelijälle, jolla on todellista valtaa.

Tavoite on oikea, mutta määritelmä on vaarallisen laaja

Lainsäädäntösi virallinen yhteenveto määrittelee tekoälyn superälykkyyden AI-järjestelmäksi, joka voi “vastata tai ylittää ihmisen kognitiivisen suorituskyvyn ja kyvyt laajalla alue- tai tehtäväkirjolla.” Se sisältää myös erikseen järjestelmiä, jotka pystyvät suunnittelemaan ja toteuttamaan ihmiskunnan valta-aseman heikentämisen, mukaan lukien Yhdysvaltain hallituksen horjuttamisen tai kaatamisen.

Toinen määritelmä kuvaa poikkeuksellista ja mahdollisesti katastrofaalista kykyä. Ensimmäinen on hyvin erilainen.

Ihmisen kognitiivisen suorituskyvyn vastaaminen laajalla aluekirjolla on paljon lähempänä sitä, miten tekoälyn yleistä älykkyyttä (AGI) on perinteisesti käsitelty, kuin perinteistä superälykkyyden merkitystä. OpenAI:n pitkään ollut peruskirja määrittelee AGI:n erittäin itsenäisiksi järjestelmiksi, jotka kykenevät ylittämään ihmiset suurimmassa osassa taloudellisesti arvokkaasta työstä. Google DeepMindin tutkimuskehys arvioi AGI:n samalla tavalla suorituskyvyn laajuuden ja syvyyden perusteella, samalla kun autonomisuus ja riski käsitellään erillisinä ulottuvuuksina.

Vastakohtana filosofi Nick Bostromin vaikutusvaltainen superälykkyyden määritelmä kuvaa älykkyyttä “paljon älykkäämpänä kuin parhaat ihmisaivot lähes kaikilla aloilla.” Ero ihmisen laajassa vastaamisessa ja merkittävässä ylittämisessä parhaista ihmisistä laajasti ei ole pelkkä akateeminen tarkkuus.

Se käy erityisen tärkeäksi, kun lain rikkominen voi altistaa yksilön jopa 20 vuoden vankeusrangaistukselle ja yrityksen siihen, mitä ehdotus kutsuu “yrityksen kuolemantuomaksi.” Ilmaisut kuten “laaja kirjo”, “vastata tai ylittää” ja erityisesti “voidaan helposti muokata” vaativat poikkeuksellisen tarkkoja, mitattavissa olevia standardeja, kun niihin liitetään rikosoikeudellinen vastuu.

On olemassa myös toinen merkittävä epävarmuustekijä. Julkinen yhteenveto sanoo, että “kehittyneen tekoälyn kehitys” keskeytettäisiin, kunnes sääntelijä asettaa säännöt ja mallien tarkistusprosessit, mutta yhteenveto ei määrittele kehittynyttä tekoälyä. Kunnes säädöskieli julkaistaan, kukaan sponsoreiden ulkopuolella ei voi tietää tarkalleen, kuinka paljon tutkimusta ja kehitystä tämä tilapäinen keskeytys kattaa.

Ehdotuksesi ajoitus korostaa, kuinka vaikeita nämä määritelmät ovat tulleet. 3. syyskuuta 2026, samana päivänä kun sinä ja edustaja Greg Casar ilmoititte lainsäädännöstä, joka kohdistuu tekoälyn superälykkyyteen, OpenAI julkaisi GPT-6 Astra -mallin, ensimmäisen mallinsa, joka saavutti yhtiön kriittisen kyberturvallisuuskyvyn kynnyksen. OpenAI väittää, että asianmukaisilla työkaluilla ja pääsyllä Astra voi löytää aiemmin tuntemattomia haavoittuvuuksia ja kehittää hyökkäyksiä hyvin suojattuihin järjestelmiin ilman, että ihminen ohjaa jokaista vaihetta.

Julkaisutilaisuudessa OpenAI:n presidentti Greg Brockman meni huomattavasti pidemmälle ja päätti lausunnolla: “Welcome to the AGI era.” Samanaikaisesti OpenAI:n oma järjestelmäkortti toteaa, että Astra ei saavuta korkean tason kynnystä tekoälyn itseparantamiselle.

Tämä jännite tulisi kertomaan kongressille tärkeän asian. Älykkyys on monidimensionaalista. Järjestelmä voi olla poikkeuksellinen kyberturvallisuudessa, matematiikassa tai ammatillisessa työssä ilman, että sillä on kaikki ne kyvyt, jotka liittyvät älykkyyssyrmän räjähdykseen tai ihmisen hallinnan menetykseen.

Ratkaisu ei siis ole antaa teknologiayritysten määritellä terminologiaa. Päinvastoin: lainsäädännön tulisi säädellä mitattavissa olevia kykyjä, autonomiaa, pääsyä ja osoitettua riskiä sen sijaan, että kiistanalainen etiketti muodostaisi rajan laillisen tutkimuksen ja liittovaltion rikoksen välillä.

Taisteluasi koulutuksellisen tasa-arvon puolesta havainnollistaa, mitä on kyseessä

Vuosikymmenten ajan olet väittänyt, että koulutuksen saatavuuden ei tulisi riippua siitä, kuinka paljon vanhempien tuloja on. Vuonna 2015 esittelit ensimmäisen kerran lainsäädännön, jonka tarkoituksena oli tehdä nelivuotiset julkiset korkeakoulut ja yliopistot maksuttomiksi. Olet palannut asiaan toistuvasti, ja vuoden 2025 College for All Act -laki tekisi julkisista korkeakouluista ja yliopistoista maksuttomia noin 95 %:lle opiskelijoista, samalla kun yhteisökorkeakoulut olisivat kaikille maksuttomia.

Tämä filosofia on suoraan relevantti tekoälyyn.

Ihmiskunnan suurimman osan historiasta poikkeuksellisen opetuksen saatavuus on ollut niukkaa. Maantiede, perheen tulot, koulutuksen rahoitus ja erikoisopettajien saatavuus vaikuttavat kaikki siihen, mitä lapsi saa mahdollisuuden oppia.

Tekoäly tarjoaa mahdollisuuden muuttaa tätä yhtälöä.

Näemme jo varhaisia todisteita. Maailmanpankin satunnaistettu koe Nigeriassa havaitsi, että opiskelijat, jotka saivat kuusiviikkisen, opettajien tukeman ohjelman, jossa hyödynnettiin GPT-4-pohjaista ohjausta, paransivat kokonaiskoekokemusta 0,31 keskihajonnalla. Stanfordin yhteydessä Tutor CoPilot -ohjelmaa testattiin yli 700 ohjaajalla ja 1 000 opiskelijalla alipalveluista yhteisöistä; opiskelijat, joiden ohjaajat saivat tekoälyavustusta, olivat neljä prosenttiyksikköä todennäköisemmin hallitsevia matematiikan aiheita, ja parannukset nousivat yhdeksään prosenttiyksikköön alempiarvoisten ohjaajien opiskelijoiden keskuudessa.

Kumpikaan tutkimus ei todista, että tekoäly ratkaisee koulutuksellisen epätasa-arvon. Kumpikaan ei vaadi AGI:a. Kuitenkin molemmat osoittavat suunnan, johon tämä teknologia voi kehittyä.

Kuvittele, että tämä suunta jatkuu.

Lapsen maaseudulla Louisianassa ei pitäisi joutua asumaan lähellä huippukoulua kohdatakseen poikkeuksellisen matematiikan opettajan. Tiedekuvioihin innostuneen opiskelijan ei pitäisi odottaa yliopistoa tutkiakseen astrofysiikkaa. Kaivannollisuudesta innostunut lapsi pitäisi voida seurata tätä uteliaisuutta, kun tekoälyohjaaja tunnistaa lukemisen, historian, tilastotieteen ja tieteellisen päättelyn aukot ja mukauttaa opetusta sen mukaisesti.

Tavoitteena ei tulisi olla opettajien korvaaminen. Sen tulisi olla opettajille ja opiskelijoille pääsyn tarjoaminen asiantuntemukseen, jota ei aiemmin voitu taloudellisesti tarjota yksi‑yksi.

Ehkä ensimmäistä kertaa räätälöity opetus valtavassa mittakaavassa on teknologisesti mahdollinen. Lain, jonka tarkoitus on suojella tulevia sukupolvia, tulisi olla poikkeuksellisen varovainen sulkematta tätä ovea.

Terveydenhuoltosi agenda esittää saman argumentin

Terveysalan saavutuksesi ovat yhtä johdonmukaiset. Esittelit Medicare for All -lain vuonna 2017 ja esittelit sen uudelleen vuosina 2019, 2023 ja 2025, toistaen, että terveydenhuollon tulisi olla oikeus eikä etuoikeus.

Olet myös vuosia taistellut toisenlaista terveydenhuollon epätasa-arvoa vastaan: todellisten terveydenhuollon ammattilaisten puutetta alipalveluissa yhteisöissä. Yhteisöterveyskeskus- ja perusterveydenhuollon työvoiman laajentamishankkeesi pyrkivät laajentamaan pääsyä lääketieteellisesti alipalvelualueilla, kun taas vuodelle 2023 bipartisan perusterveydenhuollon lainsäädäntösi senaattori Roger Marshallin kanssa ehdotti merkittävää yhteisöterveyskeskusten rahoituksen kasvattamista ja National Health Service Corpsin sekä lääketieteellisten residenssien putken laajentamista. Vuonna 2025 sinä ja senaattori Jeff Merkley esittelitte Health Care Workforce Expansion Act -lainsäädännön, joka sisälsi opintotukia tarkoituksenaan lisätä lääkärien, sairaanhoitajien ja hammaslääkärien määrää erityisesti maaseutualueilla.

Nämä politiikat käsittelevät taloudellista niukkuutta ja henkilöstöresurssien niukkuutta.

Tekoäly voisi auttaa ratkaisemaan kolmatta niukkuutta: asiantuntijatietoa.

FDA:n mukaan yli 10 000 harvinaista tautia vaikuttaa yli 30 miljoonaan amerikkalaiseen, noin yksi kymmenestä, ja suurin osa harvinaisista sairauksista ei vielä saa hyväksyttyä hoitoa. Pienet potilasjoukot tekevät perinteisistä kliinisistä kokeista erityisen haastavia.

Tekoäly ei ole taikakikka, joka kiertää biologian tai kliinisen validoinnin. Tekoälyn avulla löydetyt lääkkeet voivat epäonnistua kuten muutkin lääkkeet. Mutta se on jo muuttamassa osia löytöprosesseista.

Vuonna 2025 tutkijat julkaisi ensimmäisen satunnaistetun vaiheen 2a -kokeen rentosertibista, pienestä molekyylistä idiopaattiseen keuhkofibroosiin, jonka kohde ja molekyyli löydettiin generatiivisen tekoälyn avulla. Tulokset edustivat aitoa kliinistä virstanpylvästä, vaikka tutkijat varoittivat, että suhteellisen vähän tekoälyn löytämistä lääkkeistä oli päässyt kliinisiin kokeisiin, eikä yhtäkään ollut vielä suorittanut vaihetta 3.

Tämä on juuri se tasapainoinen tapa, jolla meidän tulisi ajatella tätä teknologiaa: ei liiallista hypeä eikä hylkäämistä.

Yhä kykenevämmät tekoälyjärjestelmät voivat integroida molekyylibiologiaa, kemiaa, genetiikkaa, lääketieteellistä kirjallisuutta, kuvantamista, ohjelmistoja, tilastollista analyysiä ja kokeellista suunnittelua. Niiden arvo voi syntyä juuri siitä, että ne pystyvät päättämään eri alojen välillä, jotka ihmiset ovat historiallisesti jakaneet erillisiin erikoisaloihin.

Relevantti kysymys ei siis ole, parantaako “AGI” yksinään syöpää, Alzheimerin tautia, antibioottiresistenttejä infektioita tai harvinaisia geneettisiä sairauksia. Kukaan ei voi vastuullisesti luvata sitä.

Kysymys on, pitäisikö kongressin pysyvästi kieltää laajasti kykenevä älykkyyden muoto ennen kuin tiedämme, mitä se voisi tarjota näiden ongelmien ratkaisemiseksi.

Monet tämän päivän konkreettisimmista tekoälyvahingoista eivät vaadi AGI:a

Toinen ongelma yleisen älykkyyden itsensä asettamisessa sääntelyn kohteeksi on, että osa tänä päivänä merkittävimmistä tekoälyn aiheuttamista vahingoista tulee järjestelmistä, jotka eivät missään nimessä lähesty tekoälyn yleistä älykkyyttä.

Vuonna 2020 kirjoitin Unite.AI:ssa siitä, miten Facebookin suositusalgoritmit voivat vahvistaa väärää tietoa. Huolenaihe ei ollut, että Facebook olisi luonut älykkyyden, joka on älykkäämpi kuin ihmiskunta. Kyse oli siitä, että sitoutumisen maksimoimiseksi suunniteltu optimointijärjestelmä saattoi suosia materiaalin vahvistamista, joka herätti voimakkaampia reaktioita, riippumatta sen arvosta yhteiskunnalle.

Huonosti hallittujen suositusjärjestelmien seuraukset ovat sen jälkeen tulleet vaikeammiksi hylätä. Amnesty International päätti, että Metan algoritmit proaktiivisesti vahvistivat sisältöä, joka kiihdytti vihamielisyyttä ja väkivaltaa rohingyja vastaan Myanmarissa, lisäten massiivisen väkivallan riskiä. Euroopan komissio on erikseen vaatinut YouTubelta, Snapchatalta ja TikTokilta tietoja suositusjärjestelmien riskeistä, jotka liittyvät haitalliseen sisältöön, vaaleihin ja kansalaiskeskusteluun, riippuvuuksiin, “kaninkoloihin”, mielenterveyteen ja alaikäisiin.

Yksikään näistä järjestelmistä ei tarvinnut syrjäyttää hallitusta itse. Yksikään ei tarvinnut rekursiivista itseparantamista. Yksikään ei tarvinnut ylivertaista yleisajattelua.

Niiden ainoastaan tarvitsi väärä tavoite, toteutettuna riittävän laajassa mittakaavassa.

Tämä havainnollistaa perustavanlaatuisen periaatteen tekoälyn sääntelyssä: vahinkoa ei määritä pelkästään mallin älykkyys. Kapea algoritmi, joka otetaan käyttöön miljardeja kertoja väärillä kannustimilla, voi olla sosiaalisesti tuhoisa. Erittäin yleinen järjestelmä, joka toimii tiukkojen kontrollien alla laboratoriossa, luokkahuoneessa tai sairaalassa, voi olla valtavan hyödyllinen.

Sääntelyn tulisi tunnistaa tämä ero.

Kaksoiskäyttöinen teknologia vaatii hallintaa käytön, pääsyn ja valtuutuksen suhteen

Sama periaate pätee valvontaan.

Tietokonevisio- ja kuviointitunnistusteknologiat voivat auttaa lääkäreitä analysoimaan lääketieteellisiä kuvia, tarkastelemaan vaarallisia teollisuusympäristöjä, ohjaamaan pelastusrobotteja ja automatisoimaan tehtäviä, joita ihmisten ei pitäisi suorittaa.

Vastaavia teknologioita voidaan myös käyttää rakentelemaan poikkeuksellisen voimakkaita valvontajärjestelmiä.

Washington Postin äskettäinen tutkinta havaitsi, että vähintään 50 lainvalvontaviranomaista oli syytetty, syytetty tai tuomittu väärinkäyttämään automaattisia rekisterikilpienlukujärjestelmiä ihmisten seuraamiseen luvattomiin henkilökohtaisiin tarkoituksiin. Yhdessä tapauksessa poliisipäällikön väitettiin kysyneen entisen kumppanin ja hänen teini‑ikäisen tyttärensä käyttämien ajoneuvojen tietoja noin 600 kertaa. Myöhempi tutkinta nosti väärinkäytöstä syytettyjen, syytettyjen tai tuomittujen virkamiesten määrän vähintään 69:een.

Tämä on vakava teknologia‑politiikan epäonnistus.

Mutta huomaa, missä käytännön sääntelyvipuvoimat ovat. Tutkinnan jälkeen Flock ilmoitti, että haut vaativat rikosasian koodeja, automaattinen väärinkäytön havaitseminen tulisi pakolliseksi, ja oletusdatankäsittelyn säilytysaika lyhenee 30 päivästä seitsemään. Nämä toimenpiteet eivät välttämättä riitä, mutta ne osoittavat, millaisia kontrollia lainsäätäjät voivat säädellä: valtuutus, käyttötarkoituksen rajoitus, tarkastuspolut, säilytys, ihmisen vastuullisuus ja rangaistukset väärinkäytöstä.

Vastaus väärinkäyttöön perustuvaan valvontaan ei ole kieltää tietokonevisio.

Vastaus luvattomiin kyberhyökkäyksiin ei välttämättä ole kieltää kyberturvallisuuteen kykenevä malli.

Vastaus on säädellä, mitä järjestelmiä sallitaan tehdä, mitä resursseja ne voivat käyttää, kuka voi valtuuttaa merkittäviä toimia ja mitä tapahtuu, kun nämä rajat rikotaan.

Olet jo laatinut osan paremmasta sääntelymallista

Mielenkiintoista, että toinen tänä vuonna esittelemäsi lainsäädäntö sisältää useita ideoita, jotka viittaavat tuottavampaan lähestymistapaan.

Luinsin koko tekstin Artificial Intelligence Data Center Moratorium Act -lainsäädännöstäsi. Vaikka olen eri mieltä datakeskusten rakentamisen pysäyttämisestä kokonaan, ehdottamasi ehdot moratoriosta poistumiselle ovat paljon konkreettisemmat kuin kattava kielto älykkyyskategoriasta.

Lainsäädäntösi sanoo, että AI‑datakeskusten ei tulisi nostaa kuluttajien sähkölaskuja, pahentaa ilmastonmuutosta tai vahingoittaa ympäristöä. Se vaatii, että vaikuttavilla yhteisöillä on ääni, vahvat työstandardit ja julkinen raportointi vedenkäytöstä, energiankulutuksesta, kasvihuonekaasupäästöistä, jätevedestä, jäähdytyskemikaaleista, melusta, työpaikoista ja muista vaikutuksista.

Nämä ovat mitattavissa olevia ulkoisvaikutuksia. Tämä on juuri se kohta, jossa sääntely voi olla tehokasta.

Menisin pidemmälle energian osalta. AI‑teollisuudelle ei tulisi antaa käyttää nopeasti kasvavaa sähkönkulutusta tekosyynä jatkaa ilman rajoituksia toimivien kivihiilivoimaloiden elinikää tai siirtää infrastruktuurikustannuksia tavallisille kuluttajille. Uusien hypermittakaavaprojektien tulisi tuoda merkittävästi lisäenergiaa, joko vähähiilistä tai nollahiilistä, verkkoon ja paljastaa vesien ja energian vaikutuksensa.

On jo lupaavia esimerkkejä siitä, miltä tämä siirtymä voisi näyttää. Exowattin P3‑järjestelmä kerää aurinkoenergiaa lämmönä, varastoi sen ja muuntaa sen ohjattavaksi sähköksi, joka on osittain suunniteltu datakeskusten kuormituksiin. Ja juuri tällä viikolla Fervo Energy ilmoitti 396 megawatin sopimuksesta Googlen kanssa, joka tarjoaa 24/7 hiilivapaata parannettua geotermistä energiaa Utahissa, vaihtoehdolla, jonka avulla kokonaiskapasiteetti voisi lähestyä yhtä gigawattia.

Tekoälyn energiantarve voi muuttua joko syynä laajentaa likaisia infrastruktuureja tai valtavaksi kysyntämoottoriksi uusille puhtaan energian teknologioille.

Hallituksen politiikka voi auttaa määrittämään, mikä tulos toteutuu.

Ja oma American AI Sovereign Wealth Fund Act -lainsäädäntönne, joka esiteltiin kesäkuussa, sisältää toisen periaatteen, jonka kanssa olen vahvasti samaa mieltä: jos tekoäly luo poikkeuksellista taloudellista arvoa, tavallisten ihmisten tulisi jakaa se arvo. Ehdotuksesi kuvitellusti näkee tekoälyn tuottaman varallisuuden lopulta vaikuttavan terveydenhuoltoon, koulutukseen, asumiseen ja terveelliseen ympäristöön.

Tämä tunnistaa tärkeän asian: tekoälyllä on poikkeuksellinen potentiaalinen arvo. Todellinen poliittinen kysymys on, miten tämä arvo hallitaan ja jaetaan.

Parempi vaihtoehto pysyvälle kiellolle

Kehoittaisin sinua säilyttämään Ban Artificial Superintelligence Act -lainsäädännön vahvimmat osat: liittovaltion sääntelijän, itsenäisen teknisen asiantuntemuksen, pakollisen valvonnan etujärjestelmille, merkittävät rangaistukset ja kansainvälisen koordinoinnin. Mutta muuttaisin perusperiaatteessa, mikä laukaisee kieltopäätöksen ja miten hyödyllinen kehitys voi jatkua.

• Säädellä mitattavissa olevia vaarallisia kykyjä sen sijaan, että kiellettäisiin AGI- tai ASI-etiketti. Määritellä teknisesti määritellyt kynnykset autonomiselle kyberhyökkäykselle, biologisten tai kemiallisten aseiden mahdollistamiselle, sammutuksen kiertämiselle, luvattomalle replikaatiolle, strategiselle harhaanjohtamiselle ja muille kyvyille, jotka voivat aiheuttaa katastrofaalista vahinkoa.
• Vaatia lisensointia ja itsenäisiä arviointeja eturajan ylittäville järjestelmille. Kehittäjien on osoitettava turvallisuus ennen järjestelmien käyttöönottoa, joissa on määritellyt vaaralliset kyvyt, ja arviointeja on toistettava, kun mallit saavat uusia työkaluja, oikeuksia tai autonomisuutta. Vakavien tapahtumien on sisällettävä pakollinen tiedonantovelvollisuus.
• Antaa itsenäiselle sääntelijälle todellinen täytäntöönpanovalta. Ehdottamasi virasto tulisi pystyä tarkastamaan etulaboratorioita, hankkimaan tietoa, vaatimaan korjaustoimenpiteitä ja keskeyttämään vaaralliset käyttöönotot. Standardien tulee kuitenkin olla läpinäkyviä, teknisesti mitattavissa olevia ja riippumattomien tieteellisten asiantuntijoiden säännöllisesti tarkistamia.
• Kieltää haitalliset sovellukset riippumatta siitä, kuinka älykäs taustamalli on. Luvattomat kyberhyökkäykset, laiton valvonta, vaarallinen biologinen avustus ja muut hyväksymättömät käyttötavat tulisi pitää laittomina, olipa kyseessä kapea malli, AGI‑järjestelmä tai perinteinen ohjelmisto.
• Luoda hallittuja polkuja sosiaalisesti arvokkaaseen tutkimukseen. Lääketiede, tieteellinen löytö, koulutus, kyberturvallisuuden puolustus ja sovitus (alignment)‑tutkimus tulisi saada säänneltyjä mekanismeja, jotka mahdollistavat pääsyn voimakkaisiin malleihin asianmukaisen ihmisen valvonnan, validoinnin, turvallisuuden ja tarkastusvaatimusten alaisena.
• Saada AI‑infrastruktuuri maksamaan täysimääräiset sosiaaliset ja ympäristökustannuksensa samalla kun koordinoidaan kansainvälisesti. Suojata kuluttajat, vaatia läpinäkyvää raportointia veden ja energian käytöstä, kiihdyttää lisäpuhdasta energiantuotantoa, ylläpitää merkittäviä yhteisö‑ ja työvoimasuoja, ja tehdä yhteistyötä liittolaisten kanssa yhteisten kykystandardien, arviointien ja vientivalvonnan osalta.

Tämä ei tarkoittaisi Silicon Valleyn luottamista.

Päinvastoin.

Teknologiateollisuus on antanut kongressille runsaasti syitä ei turvautumatta vapaaehtoiseen itse­säätelyyn. OpenAI:n ja Anthropic:n tapaukset yksinään osoittavat, miksi eturajan tekoäly tarvitsee ulkopuolista tarkastelua ja täytäntöönpanokelpoisia turvallisuusstandardeja.

Mutta teknologia‑yritysten epäluottamus ei saisi muuttua teknologisen edistymisen epäluottamukseksi.

Valinta ei ole holtiton kiihdytys tai kielto

Senaattori Sanders, urasi aikana olet toistuvasti taistellut niukkuutta vastaan.

Olet taistellut ajatusta vastaan, että perheen tulot määrittäisivät, saako lapsi koulutuksen. Olet taistellut terveydenhuoltojärjestelmää vastaan, jossa henkilön pankkitili tai postinumero voi vaikuttaa saatuun hoitoon. Olet taistellut taloudellisia rakenteita vastaan, joissa valtavat hyödyt kertyvät pienelle ryhmälle, kun taas kaikki muut kantavat kustannukset.

Tekoäly voisi pahentaa kaikkia näitä ongelmia.

Se voisi keskittää ennennäkemättömän varallisuuden. Se voisi syrjäyttää työntekijöitä ilman, että tuottavuusvoittoja jaetaan. Se voisi mahdollistaa valvonnan, manipuloinnin ja kyberhyökkäykset. Se voisi asettaa poikkeuksellisen vallan pienen määrän yritysten käsiin.

Nämä riskit oikeuttavat sääntelyn.

Mutta tekoäly voisi myös vähentää yhtä vanhimmista epätasa-arvon muodoista ihmiskunnassa: asiantuntemuksen saatavuuden epätasa-arvoa.

Maailma, jossa jokainen lapsi voi saada räätälöityä opetusta, jokainen lääkäri voi hyödyntää poikkeuksellista analytiikkatukea, jokainen tiedemies voi tutkia vuosisatojen keräämää tutkimusta, ja sairaudet, joita on aiemmin ohitettu, koska potilasjoukko on liian pieni, voivat saada paljon enemmän tieteellistä huomiota, on myös arvoinen taisteltava asia.

Meidän ei pitäisi joutua valitsemaan tämän tulevaisuuden ja tekoälyn turvallisuuden välillä.

Parempi tavoite on tehdä voimakkaasta tekoälystä vaikea väärinkäyttöön, vaikea hallinnan menetykseen, riittävän läpinäkyvä tarkastettavaksi, kallis holtittomaan käyttöönottoon ja laajasti saatavilla sosiaalisesti hyödyllisiin tarkoituksiin.

Kieltää toiminta, joka vaarantaa ihmiskunnan. Lisensoida vaaralliset kyvyt. Rangaista huolimaton ja pahantahtoinen käyttöönotto. Vaatia yrityksiä sisällyttämään infrastruktuurinsa ympäristökustannukset. Suojata työntekijöitä. Antaa yleisölle osuus taloudellisista hyödyistä. Ja luoda itsenäinen sääntelijä, joka pystyy sanomaan jopa maailman suurimmille teknologiayrityksille “ei.”

Mutta pyydän, ettette määrittele kiellettyä älykkyyttä niin laajasti, että ihmisen kognitiivisen kyvyn vastaaminen monilla aloilla itsessään muodostuisi rikokseksi.

Elämäntyösi on keskittynyt laajentamaan pääsyä asioihin, jotka ennen olivat varattuja etuoikeutetuille.

Edistynyt tekoäly voisi tulla suurimmaksi keskittyneen vallan moottoriksi, jonka olemme koskaan luoneet.

Tai se voisi olla yksi suurimmista työkaluista, joita on koskaan luotu tiedon, koulutuksen, lääketieteen ja tieteellisen kyvykkyyden demokratisoimiseksi.

Hyvä lainsäädäntö voi auttaa määrittämään, millaisen tulevaisuuden saamme.