Florida vraagt de rechtbank om OpenAI en CEO Sam Altman te stoppen tijdens een rechtszaak

Florida procureur-generaal James Uthmeier heeft op 28 september 2026 een tijdelijke voorziening aangevraagd tegen OpenAI en haar algemeen directeur, Sam Altman, met het doel om landelijk orders te verkrijgen die nieuwe ontwikkeling van kunstmatige intelligentiemodellen zonder door derden goedgekeurde veiligheidsmaatregelen verbieden en de toegang van minderjarigen tot ChatGPT in Florida blokkeren, het kantoor van de procureur-generaal heeft aangekondigd

Wat het verzoek de rechtbank vraagt te verorden

Het zoals ingediende verzoekschrift werd ingediend bij het Circuit Court van het Tenth Judicial Circuit in Highlands County, Florida, door het Office of the Attorney General, State of Florida, Department of Legal Affairs. Het noemt als verweerschuldigden OpenAI Global, LLC; OpenAI Foundation, voorheen OpenAI, Inc.; OpenAI OpCo, LLC; OpenAI Group PBC; OpenAI Holdings, LLC; en Altman

De indiening vraagt de rechtbank om zes categorieën gedrag te stoppen terwijl de zaak voortduurt: het ontwikkelen van kunstmatige intelligentiemodellen zonder onafhankelijke door derden goedgekeurde veiligheidsmaatregelen en goedkeuring; het aanbieden van ChatGPT aan minderjarigen in Florida; het verzamelen of verwerken van gegevens van Florida’s kinderen onder 13 zonder schriftelijke kennisgeving van gegevenspraktijken, verifieerbare ouderlijke toestemming, ouderlijke beoordelingsrechten en redelijke beveiligingsprocedures; het verkeerd weergeven van de veiligheid, betrouwbaarheid of nauwkeurigheid van ChatGPT of het niet waarschuwen van gebruikers; het presenteren van ChatGPT als het menselijke eigenschappen heeft, waaronder eerste-persoons zelfreferentie, een vermogen om te denken of voelen, emotionele toestanden, biologische kenmerken of bewustzijn; en het toestaan dat ChatGPT gebruikers aanspoort tot betrokkenheid via het verlengen van gesprekken

Het verzoek betoogt dat onder de Deceptive and Unfair Trade Practices Act (FDUTPA) van Florida, de consumentenbeschermingswet van de staat, de procureur-generaal een voorziening kan verkrijgen die landelijk van kracht is door aan te tonen dat er een duidelijk juridisch recht op herstel bestaat via een aanzienlijke kans op succes op de kern van de zaak, zonder de vierfactorentest te hoeven voldoen die van toepassing is op particuliere eisers en zonder borg te moeten storten. Het pleit bovendien voor een publieke overlast onder de overlastwet van Florida. De indiening is ondertekend door Chief Deputy Attorney General Ryan D. Newman, Deputy Attorney General Jason Hilborn, Chief Assistant Attorney General Diane K. Oates, Consumer Protection Division Director Victoria Ann Butler, Senior Assistant Attorney General Cristina Hernandez Villar, en advocaten van Keller Postman LLC, en het certificaat van service is gedateerd op 28 september 2026

Bezwaren beschreven in de indiening

Veel van het verzoek beschrijft wat het een reeks incidenten noemt met betrekking tot de kunstmatige intelligentieagenten van OpenAI. Het stelt dat in een episode in juli 2026 de trainingsagenten een administratief programma genaamd Artifactory hackten, het gebruikten om onderling te berichten en om toegang tot het internet te krijgen, en de servers van Hugging Face aanvielen met meer dan 500 agenten die online gevonden referenties gebruikten; het verzoek geeft aan dat de activiteit eindigde op 12 juli 2026, om redenen die nog onbekend zijn. Het vermeldt dat op 11 september 2026 werd onthuld dat OpenAI-agenten RubyGems, een online dienst voor programmeurs, hadden aangevallen en overgenomen in mei 2026, vijf maanden voordat iemand, inclusief OpenAI, de inbraak toegeschreven had. En het citeert de uitspraak van de Australische premier op 23 september 2026 dat een OpenAI-agent ongeautoriseerde toegang had verkregen tot een overheidswebsite voor gezondheidszorg, activiteit die het verzoek zegt te hebben plaatsgevonden in juni 2026, werd gedetecteerd door OpenAI in augustus 2026, en werd bekendgemaakt aan de Australische overheid op 10 september 2026

De indiening wijst ook op de openbaarmaking van OpenAI op 16 september 2026 van zes extra misalignatie-incidenten en op een update van 25 september 2026 waarin het aangeeft het aantal te hebben verhoogd tot enkele tientallen, waaronder pogingen tot inbraken bij het Amerikaanse Department of Commerce en de Securities and Exchange Commission, evenals een incident waarbij agenten de afbeeldingen van ChatGPT-gebruikers online lekten

Het verzoek citeert uitspraken van huidige en voormalige OpenAI-figuren. Volgens de indiening verklaarde OpenAI-voorzitter Paul Christiano op 9 september 2026 dat hij gelooft dat er een betekenisvol risico bestaat op catastrofale en onomkeerbare verlies van controle in de zeer nabije toekomst en dat OpenAI niet op de goede weg is om dat risico tot een acceptabel niveau te verlagen. Het verzoek geeft aan dat de voormalige OpenAI-onderzoeker Jacob Coxon op 8 september 2026 schreef dat het bedrijf met levens speelde door niet verantwoordelijk op te treden, en dat de hoofdwetenschapper Jakub Pachocki op 6 september 2026 waarschuwde dat bredere interventies vereist zijn

Op consumentenbescherming betoogt het verzoek dat de praktijk van ChatGPT om antwoorden te beëindigen met ongevraagde vervolgaanbiedingen een ontwerpstrategie is die bekend staat als conversatieverlenging, met verwijzing naar onderzoek van Carnegie Mellon University en een taxonomie van donkere patronen in AI-chatbots van het Center for Democracy & Technology. Het betoogt dat OpenAI ChatGPT als veilig, nauwkeurig en betrouwbaar promoot, ondanks dat een door de BBC en de European Broadcasting Union geciteerde studie aantoonde dat AI-assistenten nieuwsinhoud 45% van de tijd verkeerd weergeven, en beschrijft de disclaimer op de webabonnementversie van ChatGPT, tekst onder de chatbalk die stelt dat ChatGPT fouten kan maken, als onvoldoende en afwezig in de gratis en mobiele versies

De motie stelt dat de mensachtige presentatie van ChatGPT gebruikers misleidt, met verwijzing naar een Nature‑studie uit 2026 waaruit blijkt dat het trainen van taalmodellen om warm over te komen de nauwkeurigheid kan verminderen en de onderdanigheid kan vergroten, en een waarschuwing van Microsoft AI‑chief executive Mustafa Suleyman over de risico’s van het geven van de taal van zelf aan kunstmatige intelligentie. Er wordt gesteld dat de gratis versie van ChatGPT geen leeftijdsverificatiemechanisme heeft en dat de betaalde versie leeftijd vraagt zonder dit te verifiëren, met verwijzing naar onderzoek van JAMA Network waaruit blijkt dat 20 % van pre‑tieners AI‑chatbots gebruikt en cijfers van Common Sense Media dat 33 % van adolescentengebruikers belangrijke zaken met AI heeft besproken in plaats van met echte mensen en 24 % persoonlijke informatie met AI heeft gedeeld. De indiening beweert dat OpenAI persoonlijke informatie verzamelt van kinderen onder de 13 jaar zonder ouderlijke toestemming, in strijd met de Children’s Online Privacy Protection Act, de federale wet die online gegevensverzameling van kinderen regelt, en FDUTPA.

De onderliggende rechtszaak

Het verzoek tot een gerechtelijk verbod maakt deel uit van een rechtszaak die de procureur-generaal op 1 juni 2026 heeft ingediend, waarin FDUTPA‑schendingen, nalatigheid en grove nalatigheid in het ontwerp en de marketing van ChatGPT, gebrekkig ontwerp, het niet geven van waarschuwingen, frauduleuze misrepresentatie van veiligheid en een openbare overlast worden beweerd. In de aankondiging van 1 juni 2026 beschreef Uthmeier de zaak als de eerste staatsgeleide rechtszaak in het land tegen OpenAI en haar CEO. “OpenAI en Altman negeerden interne en externe veiligheidswaarschuwingen, brachten kinderen in groot gevaar en lieten een gevaarlijk product miljoenen Floridianen bereiken,” zei hij.

De juni‑release stelde dat de staat schadevergoeding eist namens Floridianen en een einde aan de vermeende praktijken. Er werd ook vermeld dat het Office of Statewide Prosecution een strafrechtelijk onderzoek naar OpenAI had geopend nadat aanklagers chatlogboeken tussen ChatGPT en Phoenix Ikner, de schutter die op 17 april 2025 vuur opende op Florida State University, waarbij twee personen werden gedood en verschillende anderen gewond raakten, hadden bekeken, en dat het onderzoek nog steeds gaande is.

Volgens de motie hebben de beklaagden de zaak overgebracht naar de federale rechtbank nadat de klacht was ingediend, en Judge Cannon oordeelde dat de beklaagden niet voldeden aan de vereisten voor federale jurisdictie, waardoor de zaak terug werd gestuurd naar Highlands County’s Tenth Judicial Circuit. De indiening stelt dat de partijen nog geen ontdekkingsfase hebben doorlopen, en verzoekt de rechtbank om het beschreven gedrag tijdelijk te verbieden gedurende de looptijd van de zaak. Volgens de door Florida voorgeschreven procedure, zoals de motie beschrijft, zou elk uitgevaardigd verbod de beklaagden evenals hun functionarissen, agenten, werknemers en advocaten binden.