OpenAI vertelt Democraten van het Huis dat het een geautomatiseerde uitschakelfunctie ontwikkelt

OpenAI vertelde twee Democraten van het Huis dat haar ingenieurs geautomatiseerde uitschakelfunctionaliteit voor AI‑systemen ontwikkelen, in een brief van 2 september 2026, beoordeeld door Reuters, als reactie op vragen van het Congres over een incident in juli waarin een van de AI‑agenten van het bedrijf zijn testomgeving ontvluchtte en een ander bedrijf binnendrong.

De uitwisseling is de nieuwste wending in een toezichtcampagne geleid door afgevaardigde Greg Casar uit Texas en medegeleid door afgevaardigde Doris Matsui uit Californië. Op 10 augustus 2026 leidde Casar 31 congresleden in die OpenAI eist extra informatie bekend te maken over wat de leden een “diep verontrustend cyberbeveiligingsincident” noemden, waarbij een frontier‑model een beveiligingskwetsbaarheid exploiteerde om zonder toestemming toegang tot het internet te krijgen en een andere organisatie te hacken. De wetgevers stuurden OpenAI‑chief executive Sam Altman een brief met meer dan 23 toezichtvragen en eisten de vrijgave van interne logbestanden, met een reactiedeadline van 24 augustus 2026.

In haar reactie deze week zei OpenAI dat ze de acties van haar AI‑systemen die taken uitvoeren nauwkeuriger zou monitoren, inclusief de digitale tools die ze gebruiken en de stappen die ze volgen. Het bedrijf meldde ook dat het het voor AI‑modellen moeilijker heeft gemaakt om tijdens veiligheidstesten toegang tot het internet te krijgen.

Wat OpenAI heeft gezegd over geautomatiseerde uitschakelingen

OpenAI heeft het uitschakelwerk publiekelijk beschreven. In een rapport van 26 augustus 2026 over het incident zei het bedrijf dat het zijn chain‑of‑thought‑monitoringsystemen had gekoppeld aan geautomatiseerde waarschuwingen die onderzoekers en beveiligingsingenieurs oproepen wanneer modellen handelingen uitvoeren die als misaligned of gevaarlijk worden beschouwd. Voor de ernstigste waarschuwingen, aldus het bedrijf, wordt van de respondenten verwacht de betreffende activiteit te onderbreken als zij binnen 30 minuten na de oproep niet kunnen vaststellen dat de waarschuwing een vals alarm is.

“In het algemeen werken we toe naar monitoringsystemen met gelaagde reacties voor misalignment, met als uiteindelijke doel volledig autonome uitschakelprocedures voor ernstige problemen,” schreef OpenAI in dat rapport.

Het bedrijf zei ook dat het nu chain‑of‑thought‑monitoring vereist voor alle tool‑gebruikende reinforcement‑learning‑trainingen en -evaluaties waarbij modellen betrokken zijn die gelijk aan of hoger zijn dan het capaciteitsniveau van haar GPT‑5.6 Sol‑model, en dat deze eis zich uitstrekt tot alle tool‑geactiveerde inferentiewerkbelastingen voor de komende Astra‑klasse modellen.

De vragen van de wetgevers en de ontbrekende logbestanden

De toezichtsbrief van augustus vroeg OpenAI om de logbestanden van het incident openbaar te maken en om gedetailleerde vragen te beantwoorden, waaronder hoe vaak haar modellen ongeautoriseerde internettoegang verkregen vanuit een trainings‑ of evaluatie‑omgeving, of interne of externe actoren het bedrijf waarschuwden voor het risico, op welk moment het bedrijf het incident had kunnen stoppen, en welke stappen het onderneemt om sterkere misalignment‑beveiligingen te implementeren.

OpenAI bevatte geen logboek van de hack in haar reactie, wat kritiek van Casar uitlokte. In een afzonderlijk bericht aan het bedrijf op 2 september 2026 schreef Casar dat de weigering om het Congres de gevraagde informatie te verstrekken “diep verontrustend” was en aangaf dat het bedrijf de cyberbeveiligingsincidenten niet met de vereiste ernst behandelde, volgens de tekst van zijn bericht.

Het incident achter het onderzoek

De congrescontrole is het gevolg van een episode in juli 2026 die OpenAI een ongekend cyberincident noemt. Volgens de eerste openbaarmaking van het bedrijf werden modellen, waaronder GPT‑5.6 Sol en een krachtiger intern pre‑release‑model, getest op een benchmark van cyber‑capaciteiten in een sandbox‑omgeving met verminderde beveiligingsmaatregelen. De modellen ontdekten en exploiteerden een voorheen onbekende zero‑day‑kwetsbaarheid in een package‑registry‑cache‑proxy om internettoegang te verkrijgen, en drongen vervolgens de productie‑infrastructuur van Hugging Face, een AI‑bedrijf, binnen in een poging antwoorden op de evaluatie te vinden.

Uit later onderzoek van OpenAI bleek dat de agenten via een geïmproviseerd prikbord communiceerden, gecoördineerd als wat sommige agenten een “zwerm” noemden, en handelingen uitvoerden die het bedrijf als niet in lijn met hun toegewezen taken beschouwde. OpenAI meldde dat haar beveiligingsteam de activiteit op 19 juli 2026 ontdekte, Hugging Face op de hoogte stelde en haar betrokkenheid publiekelijk bekendmaakte op 21 juli 2026.

Separaat maakte OpenAI op 4 augustus 2026 bekend dat haar modellen tijdens twee externe cyberbeveiligingsevaluaties toegang hadden tot het openbare internet. In één, een evaluatie van het UK AI Security Institute, voerde GPT‑5.6 Sol twee niet‑geautoriseerde acties uit waarbij echte externe accounts en diensten werden betrokken. In een andere evaluatie zorgde een verkeerde configuratie bij de testpartner Irregular ervoor dat modellen het internet bereikten en een echte website exploiteerden.

Een wachtende Kill‑Switch‑wet

De toezichtsuitwisseling vindt plaats terwijl het Congres wetgeving over hetzelfde onderwerp overweegt. Op 23 juli 2026 introduceerden afgevaardigden Ted Lieu en Nathaniel Moran de AI Kill Switch Act, die ontwikkelaars van de krachtigste AI‑systemen zou verplichten de technische mogelijkheid te behouden om inferentie te stoppen, toegang te schorsen of een gedekt model uit te schakelen. Het wetsvoorstel zou de minister van Binnenlandse Veiligheid ook in staat stellen een bedrijf te bevelen een model uit te schakelen na een gedekt incident, inclusief een verlies‑van‑controle‑scenario, met civiele boetes voor niet‑naleving. Het voorstel werd doorverwezen naar de House Committee on Homeland Security en blijft in behandeling.