EU’s nye kodeks for AI kan påvirke reguleringen

Den Europæiske Kommission har nylig introduceret en Kodeks for god praksis, der kan ændre, hvordan AI-virksomheder opererer. Det er ikke bare endnu en samling retningslinjer, men snarere en komplet omlægning af AI-tilsyn, som selv de største spillere ikke kan ignorere.

Hvad gør denne kodeks anderledes? For første gang ser vi konkrete regler, der kan tvinge virksomheder som OpenAI og Google til at åbne deres modeller for ekstern testning, en grundlæggende ændring i, hvordan AI-systemer kan udvikles og implementeres i Europa.

De nye magtspillere i AI-tilsyn

Den Europæiske Kommission har skabt en ramme, der specifikt retter sig mod, hvad de kalder AI-systemer med “systemisk risiko”. Vi taler om modeller, der er trænet med mere end 10^25 FLOPs beregningskraft – en grænse, som GPT-4 allerede har overskredet.

Virksomhederne skal rapportere deres AI-træningsplaner to uger, før de overhovedet starter.

I centrum af dette nye system er to nøgle-dokumenter: Safety and Security Framework (SSF) og Safety and Security Report (SSR). SSF er en omfattende vejviser for at håndtere AI-risici, der dækker alt fra den første risiko-identifikation til fortsatte sikkerhedsforanstaltninger. SSR fungerer som et detaljeret dokumentationsværktøj for hver enkelt model.

Ekstern testning af højrisiko-AI-modeller

Kommissionen kræver ekstern testning af højrisiko-AI-modeller. Dette er ikke en standard intern kvalitetskontrol – uafhængige eksperter og EU’s AI-kontor kommer under huden på disse systemer.

Konsekvenserne er store. Hvis du er OpenAI eller Google, skal du pludselig lade eksterne eksperter undersøge dine systemer. Udkastet fastslår udtrykkeligt, at virksomhederne skal “sikre tilstrækkelig uafhængig eksperttestning før implementering”. Det er en enorm ændring fra den nuværende selvregulerings-tilgang.

Spørgsmålet opstår: Hvem er kvalificeret til at teste disse utroligt komplekse systemer? EU’s AI-kontor træder ind i et område, der aldrig er blevet udforsket før. De vil behøve eksperter, der kan forstå og evaluere ny AI-teknologi, samtidig med at de opretholder streng fortrolighed om, hvad de opdager.

Dette krav om ekstern testning kan blive obligatorisk i hele EU gennem en kommissions-gennemførelsesakt. Virksomheder kan forsøge at demonstrere overholdelse gennem “tilstrækkelige alternative midler”, men ingen er helt sikker på, hvad det betyder i praksis.

Ophavsretsskydd bliver alvorligt

EU er også ved at blive alvorligt om ophavsret. De tvinger AI-udbydere til at skabe klare politikker for, hvordan de håndterer immaterielle rettigheder.

Kommissionen støtter robots.txt-standarden – en simpel fil, der fortæller web-crawlere, hvor de kan og ikke kan gå. Hvis en webside siger “nej” gennem robots.txt, kan AI-virksomheder ikke bare ignorere det og træne på det indhold alligevel. Søgemaskiner kan ikke straffe sider for at bruge disse udelukkelse.

AI-virksomheder skal også aktivt undgå pirat-websider, når de samler træningsdata. EU peger dem endda til deres “Counterfeit and Piracy Watch List” som udgangspunkt.

Hvad dette betyder for fremtiden

EU skaber en helt ny spilleregn for AI-udvikling. Disse krav vil påvirke alt fra, hvordan virksomheder planlægger deres AI-projekter, til hvordan de samler deres træningsdata.

Hver stor AI-virksomhed står over for et valg. De skal enten:

• Åbne deres modeller for ekstern testning
• Forsøge at finde ud af, hvad disse mystiske “alternative midler” til overholdelse ligner
• Eller potentelt begrænse deres operationer på EU-markedet

Tidsrammen her er også vigtig. Dette er ikke nogen fjern fremtidig regulering – Kommissionen flytter hurtigt. De har formået at samle omkring 1.000 interessenter, fordelt på fire arbejdsgrupper, der alle udarbejder detaljerne om, hvordan dette skal fungere.

For virksomheder, der bygger AI-systemer, kan dagene med “flyt hurtigt og find ud af reglerne senere” være ved at være forbi. De skal begynde at tænke over disse krav nu, ikke når de bliver obligatoriske. Det betyder:

• Planlægning af eksterne revisioner i deres udviklingstidsplan
• Opbygning af robuste ophavsretssystemer
• Bygning af dokumentationsrammer, der matcher EU’s krav

Den virkelige effekt af disse reguleringer vil udvikle sig over de kommende måneder. Mens nogle virksomheder måske søger omgåelser, vil andre integrere disse krav i deres udviklingsprocesser. EU’s ramme kan påvirke, hvordan AI-udvikling sker globalt, især hvis andre regioner følger med lignende tilsynsforanstaltninger. Da disse regler går fra udkast til implementering, står AI-industrien over for sin største reguleringsskift hidtil.