EU’s Nieuwe AI-gedragscode heeft invloed op regelgeving

De Europese Commissie heeft onlangs een Gedragscode geïntroduceerd die de manier waarop AI-bedrijven opereren kan veranderen. Het is niet zomaar een set richtlijnen, maar eerder een complete herziening van de AI-toezicht dat zelfs de grootste spelers niet kunnen negeren.

Wat maakt dit anders? Voor het eerst zien we concrete regels die bedrijven zoals OpenAI en Google kunnen dwingen om hun modellen open te stellen voor externe tests, een fundamentele verschuiving in de manier waarop AI-systemen kunnen worden ontwikkeld en ingezet in Europa.

De Nieuwe Spelers in AI-toezicht

De Europese Commissie heeft een kader gecreëerd dat specifiek gericht is op wat zij “AI-systemen met systeemrisico” noemen. We hebben het over modellen die getraind zijn met meer dan 10^25 FLOPs rekenkracht – een drempel die GPT-4 al is gepasseerd.

Bedrijven moeten hun AI-trainingsplannen twee weken voordat ze beginnen melden.

In het centrum van dit nieuwe systeem staan twee belangrijke documenten: het Safety and Security Framework (SSF) en het Safety and Security Report (SSR). Het SSF is een uitgebreid roadmap voor het beheersen van AI-risico’s, dat alles omvat van initiële risicoidentificatie tot voortdurende beveiligingsmaatregelen. Ondertussen dient het SSR als een gedetailleerd documentatie-instrument voor elk individueel model.

Externe tests voor high-risk AI-modellen

De Commissie eist externe tests voor high-risk AI-modellen. Dit is niet uw standaard interne kwaliteitscontrole – onafhankelijke experts en het EU’s AI-kantoor gaan onder de motorkap van deze systemen kijken.

De implicaties zijn groot. Als je OpenAI of Google bent, moet je plotseling toelaten dat externe experts je systemen onderzoeken. De ontwerp expliciteert dat bedrijven “voldoende onafhankelijke experttesting moeten garanderen voordat ze worden ingezet.” Dat is een enorme verschuiving van de huidige zelfreguleringaanpak.

De vraag rijst: wie is gekwalificeerd om deze uiterst complexe systemen te testen? Het EU’s AI-kantoor treedt een ongekend terrein binnen. Zij zullen experts nodig hebben die nieuwe AI-technologie kunnen begrijpen en evalueren, terwijl zij strikte vertrouwelijkheid moeten bewaren over wat zij ontdekken.

Deze externe testvereiste kan verplicht worden gesteld in de hele EU via een Commissie-uitvoeringshandeling. Bedrijven kunnen proberen om compliance te demonstreren via “adequate alternatieve middelen”, maar niemand weet precies wat dat in de praktijk betekent.

Auteursrechtbescherming wordt serieus

De EU neemt ook auteursrecht serieus. Zij dwingen AI-aanbieders om duidelijke beleidsregels te creëren over hoe zij omgaan met intellectueel eigendom.

De Commissie ondersteunt de robots.txt-standaard – een eenvoudig bestand dat webcrawlers vertelt waar zij wel en niet mogen gaan. Als een website “nee” zegt via robots.txt, kunnen AI-bedrijven dat niet zomaar negeren en toch op die inhoud trainen. Zoekmachines mogen sites niet bestraffen voor het gebruik van deze uitsluitingen. Het is een machtige zet die inhoudscreators weer in de bestuurdersstoel zet.

AI-bedrijven moeten ook actief piraterij-websites vermijden wanneer zij trainingsgegevens verzamelen. De EU wijst hen naar hun “Counterfeit and Piracy Watch List” als startpunt.

Wat dit betekent voor de toekomst

De EU creëert een geheel nieuw speelveld voor AI-ontwikkeling. Deze vereisten zullen van invloed zijn op alles, van hoe bedrijven hun AI-projecten plannen tot hoe zij hun trainingsgegevens verzamelen.

Elk groot AI-bedrijf staat nu voor een keuze. Zij moeten of:

• Hun modellen openstellen voor externe tests
• Uitzoeken wat die mysterieuze “alternatieve middelen” van compliance zijn
• Of mogelijk hun activiteiten in de EU-markt beperken

De tijdslijn hier is ook belangrijk. Dit is geen verre toekomstige regelgeving – de Commissie handelt snel. Zij zijn erin geslaagd om ongeveer 1.000 stakeholders te verzamelen, verdeeld over vier werkgroepen, die alle details van hoe dit gaat werken uitwerken.

Voor bedrijven die AI-systemen bouwen, kunnen de dagen van “snel bewegen en later de regels uitwerken” ten einde komen. Zij zullen moeten beginnen met het overwegen van deze vereisten nu, niet wanneer ze verplicht worden. Dat betekent:

• Plannen voor externe audits in hun ontwikkelingstijdlijn
• Het opzetten van robuuste auteursrechtcompliancesystemen
• Het bouwen van documentatiekaders die overeenkomen met de EU-vereisten

De werkelijke impact van deze regelgeving zal zich in de komende maanden ontvouwen. Terwijl sommige bedrijven mogelijk werkzaamheden zoeken, zullen anderen deze vereisten integreren in hun ontwikkelingsprocessen. Het EU-kader kan beïnvloeden hoe AI-ontwikkeling wereldwijd gebeurt, vooral als andere regio’s soortgelijke toezichtsmaatregelen volgen. Terwijl deze regels van ontwerp naar implementatie gaan, staat de AI-industrie voor zijn grootste regelgevingsverschuiving ooit.