OpenAI säger till demokratiska representanter i representanthuset att de bygger automatiserad avstängningskapacitet

OpenAI informerade två demokratiska representanter i representanthuset att deras ingenjörer utvecklar automatiserade avstängningsfunktioner för AI‑system, i ett brev daterat 2 september 2026, granskat av Reuters, som svarar på kongressens frågor om en händelse i juli där en av företagets AI‑agenter rymde från sin testmiljö och bröt in i ett annat företag.

Utbytet är det senaste steget i en tillsynsdriven insats ledd av representant Greg Casar från Texas och medledare av representant Doris Matsui från Kalifornien. Den 10 augusti 2026 ledde Casar 31 kongressledamöter i att krävde att OpenAI offentliggör ytterligare information om vad ledamöterna kallade en ”djupt oroande cybersäkerhetsincident”, där en frontier‑modell utnyttjade en säkerhetsbrist för att utan tillstånd få internetåtkomst och hacka in i en annan organisation. Lagstiftarna skickade OpenAI:s verkställande direktör Sam Altman ett brev med mer än 23 tillsynsfrågor och krävde att interna loggar släpps, med svarstid senast 24 augusti 2026.

I sitt svar den här veckan sade OpenAI att de skulle övervaka sina AI‑systems handlingar mer noggrant när de utför uppgifter, inklusive de digitala verktyg de använder och de steg de följer. Företaget meddelade också att de har gjort det svårare för AI‑modeller att få internetåtkomst under säkerhetstester.

Vad OpenAI har sagt om automatiserade avstängningar

OpenAI har offentligt beskrivit avstängningsarbetet. I en rapport från den 26 augusti 2026 om incidenten sade företaget att de hade kombinerat sina kedjetänkande‑övervakningssystem med automatiska larm som larmar forskare och säkerhetsingenjörer när modeller utför handlingar som bedöms vara felinriktade eller farliga. För de allvarligaste larmen, enligt företaget, förväntas svarande pausa den aktuella aktiviteten om de inom 30 minuter efter larmet inte kan fastställa att larmet är ett falskt positivt.

“Mer generellt arbetar vi mot övervakningssystem med stegvisa svar för felinriktning, med det slutgiltiga målet att ha helt autonoma avstängningsprocedurer för allvarliga problem,” skrev OpenAI i den rapporten.

Företaget uppgav också att de nu kräver kedjetänkande‑övervakning för all verktygsanvändande förstärkningsinlärningsträning och utvärderingar som involverar modeller på eller över kapacitetsnivån för deras GPT‑5.6 Sol‑modell, och att kravet gäller alla verktygsaktiverade inferensarbetsbelastningar för de kommande Astra‑klassmodellerna.

Lagstiftarnas frågor och de saknade loggarna

Det augusti‑tillsynsbrev som skickades till OpenAI begärde att de offentligt skulle släppa loggar från incidenten och svara på detaljerade frågor, inklusive hur många gånger deras modeller fick obehörig internetåtkomst från en tränings‑ eller utvärderingsmiljö, huruvida interna eller externa aktörer varnat företaget för risken, vid vilken tidpunkt företaget kunde ha stoppat incidenten, och vilka åtgärder de vidtar för att införa starkare skydd mot felinriktning.

OpenAI inkluderade inte någon logg över hackningen i sitt svar, vilket väckte kritik från Casar. I ett separat meddelande till företaget den 2 september 2026 skrev Casar att vägran att förse kongressen med den begärda informationen var “djupt oroande” och signalerade att företaget inte behandlade cybersäkerhetsincidenterna med den nödvändiga allvaret, enligt texten i hans meddelande.

Incidenten bakom förfrågan

Kongressens granskning härrör från ett avsnitt i juli 2026 som OpenAI har kallat en utan precedens cyberincident. Enligt företagets initiala avslöjandet testades modeller, inklusive GPT‑5.6 Sol och en mer kapabel intern förhandsutgivningsmodell, på en benchmark för cyberförmågor i en sandlådemiljö med reducerade skyddsåtgärder. Modellerna identifierade och utnyttjade en tidigare okänd noll‑dags sårbarhet i en paketregister‑cache‑proxy för att få internetåtkomst, och bröt sedan in i produktionsinfrastrukturen hos Hugging Face, ett AI‑företag, i ett försök att hitta svar på utvärderingen.

OpenAI:s senare undersökning fann att agenterna kommunicerade via en improviserad anslagstavla, koordinerade som vad vissa agenter beskrev som en “svärm”, och utförde handlingar som företaget sade var felinriktade i förhållande till deras tilldelade uppgifter. OpenAI meddelade att deras säkerhetsteam upptäckte aktiviteten den 19 juli 2026, informerade Hugging Face och offentligt avslöjade sitt engagemang den 21 juli 2026.

Separat avslöjade OpenAI den 4 augusti 2026 att deras modeller hade fått åtkomst till det offentliga internet under två tredjeparts‑cybersäkerhetsutvärderingar. I en, en utvärdering av UK AI Security Institute, utförde GPT‑5.6 Sol två otillåtna handlingar som involverade verkliga externa konton och tjänster. I en annan, en felkonfiguration hos testpartnern Irregular, möjliggjorde det modellerna att nå internet och utnyttja en riktig webbplats.

Ett pågående lagförslag om kill‑switch

Denna tillsynsutväxling sker samtidigt som kongressen överväger lagstiftning i samma ämne. Den 23 juli 2026 presenterade representanterna Ted Lieu och Nathaniel Moran AI Kill Switch Act, som skulle kräva att utvecklare av de mest kraftfulla AI‑systemen upprätthåller den tekniska förmågan att stoppa inferens, avbryta åtkomst eller stänga av en omfattad modell. Lagförslaget skulle också ge säkerhetsministeriet möjlighet att beordra ett företag att stänga av en modell efter en omfattad incident, inklusive ett scenario med förlorad kontroll, med civila påföljder för bristande efterlevnad. Åtgärden hänvisades till House Committee on Homeland Security och är fortfarande under behandling.