EU’s Nieuwe AI-gedragscode heeft invloed op regulering

De Europese Commissie heeft onlangs een Gedragscode geïntroduceerd die de manier waarop AI-bedrijven opereren kan veranderen. Het is niet zomaar een set richtlijnen, maar een complete herziening van de AI-toezicht dat zelfs de grootste spelers niet kan negeren.

Wat maakt dit anders? Voor het eerst zien we concrete regels die bedrijven als OpenAI en Google (GOOGL ) kunnen dwingen om hun modellen open te stellen voor externe tests, een fundamentele verschuiving in de manier waarop AI-systemen kunnen worden ontwikkeld en ingezet in Europa.

De Nieuwe Spelers in AI-toezicht

De Europese Commissie heeft een kader gecreëerd dat specifiek gericht is op wat zij “AI-systemen met systeemrisico” noemen. We hebben het over modellen die getraind zijn met meer dan 10^25 FLOPs rekenkracht – een drempel die GPT-4 al is gepasseerd.

Bedrijven moeten hun AI-trainingsplannen twee weken voordat ze beginnen, melden.

In het centrum van dit nieuwe systeem staan twee sleuteldocumenten: het Veiligheids- en Beveiligingskader (SSF) en het Veiligheids- en Beveiligingsrapport (SSR). Het SSF is een uitgebreid roadmap voor het beheersen van AI-risico’s, dat alles omvat van initiële risicoidentificatie tot voortdurende beveiligingsmaatregelen. Ondertussen dient het SSR als een gedetailleerd documentatie-instrument voor elk individueel model.

Externe Tests voor High-Risk AI-modellen

De Commissie eist externe tests voor high-risk AI-modellen. Dit is niet de standaard interne kwaliteitscontrole – onafhankelijke experts en het EU’s AI-kantoor gaan onder de motorkap van deze systemen kijken.

De implicaties zijn groot. Als je OpenAI of Google bent, moet je plotseling toelaten dat externe experts je systemen onderzoeken. De ontwerp spreekt expliciet over het feit dat bedrijven “voldoende onafhankelijke experttesting moeten garanderen voordat ze worden ingezet.” Dat is een enorme verschuiving ten opzichte van de huidige self-reguleringaanpak.

De vraag rijst: wie is gekwalificeerd om deze complexe systemen te testen? Het EU’s AI-kantoor treedt een onontgonnen terrein binnen. Zij zullen experts nodig hebben die de nieuwe AI-technologie kunnen begrijpen en evalueren, terwijl ze strikte geheimhouding moeten betrachten over wat ze ontdekken.

Deze externe testvereiste kan verplicht worden gesteld in de hele EU via een Commissie-uitvoeringshandeling. Bedrijven kunnen proberen om aan te tonen dat ze voldoen door “adequate alternatieve middelen”, maar niemand weet precies wat dat in de praktijk betekent.

Auteursrechtbescherming wordt serieus

De EU neemt ook auteursrecht serieus. Zij dwingen AI-aanbieders om duidelijke beleidsregels te creëren over hoe zij omgaan met intellectueel eigendom.

De Commissie ondersteunt de robots.txt-standaard – een eenvoudig bestand dat webcrawlers vertelt waar ze wel en niet mogen gaan. Als een website “nee” zegt via robots.txt, mogen AI-bedrijven dat niet negeren en toch trainen op die inhoud. Zoekmachines mogen sites niet bestraffen voor het gebruik van deze uitsluitingen. Het is een machtige zet die inhoudscreators weer in de bestuurdersstoel zet.

AI-bedrijven moeten ook actief piraterij-websites vermijden wanneer ze trainingsgegevens verzamelen. De EU wijst hen naar hun “Counterfeit and Piracy Watch List” als startpunt.

Wat dit betekent voor de toekomst

De EU creëert een geheel nieuw speelveld voor AI-ontwikkeling. Deze vereisten zullen van invloed zijn op alles, van hoe bedrijven hun AI-projecten plannen tot hoe ze hun trainingsgegevens verzamelen.

Elk groot AI-bedrijf staat nu voor een keuze. Zij moeten ofwel:

• Hun modellen openstellen voor externe tests
• Uitzoeken wat die mysterieuze “alternatieve middelen” van naleving zijn
• Of potentieel hun activiteiten in de EU-markt beperken

De tijdslijn hier is ook belangrijk. Dit is geen verre toekomstige regulering – de Commissie handelt snel. Zij hebben ongeveer 1.000 belanghebbenden verdeeld over vier werkgroepen, die allemaal de details van hoe dit gaat werken, uitwerken.

Voor bedrijven die AI-systemen bouwen, kunnen de dagen van “snel handelen en later de regels uitvinden” ten einde komen. Zij zullen moeten beginnen met nadenken over deze vereisten nu, niet wanneer ze verplicht worden. Dat betekent:

• Plannen voor externe audits in hun ontwikkelingstijdlijn
• Het opzetten van robuuste auteursrechtcompliantiesystemen
• Het bouwen van documentatiekaders die overeenkomen met de EU-vereisten

De werkelijke impact van deze regelgeving zal zich in de komende maanden ontvouwen. Terwijl sommige bedrijven mogelijk werkritten zoeken, zullen anderen deze vereisten integreren in hun ontwikkelingsprocessen. De EU-kader kan beïnvloeden hoe AI-ontwikkeling wereldwijd gebeurt, vooral als andere regio’s soortgelijke toezichtsmaatregelen volgen. Terwijl deze regels van ontwerp naar implementatie gaan, staat de AI-industrie voor de grootste regulatorische verschuiving ooit.