EU:s nya uppförandekod för AI kommer att påverka regleringen

Europeiska kommissionen har nyligen introducerat en uppförandekod som kan förändra hur AI-företag opererar. Det är inte bara en uppsättning riktlinjer, utan en komplett översyn av AI-tillsyn som inte ens de största aktörerna kan ignorera.

Vad gör denna kod unik? För första gången ser vi konkreta regler som kan tvinga företag som OpenAI och Google (GOOGL ) att öppna sina modeller för extern testning, en grundläggande förändring av hur AI-system kan utvecklas och distribueras i Europa.

De nya makthavarna inom AI-tillsyn

Europeiska kommissionen har skapat en ram som specifikt riktar sig mot vad de kallar AI-system med “systemrisk”. Vi pratar om modeller som tränats med mer än 10^25 FLOPs beräkningskraft – en tröskel som GPT-4 redan har passerat.

Företagen kommer att behöva rapportera sina AI-utbildningsplaner två veckor innan de ens börjar.

I centrum för detta nya system finns två nyckeldokument: Säkerhets- och säkerhetsramen (SSF) och Säkerhets- och säkerhetsrapporten (SSR). SSF är en omfattande vägledning för hantering av AI-risker, som täcker allt från initial riskidentifiering till pågående säkerhetsåtgärder. SSR fungerar som ett detaljerat dokumentationsverktyg för varje enskild modell.

Extern testning för högrisk-AI-modeller

Kommissionen kräver extern testning för högrisk-AI-modeller. Detta är inte den vanliga interna kvalitetskontrollen – oberoende experter och EU:s AI-kontor granskar dessa system.

Konsekvenserna är stora. Om du är OpenAI eller Google, måste du plötsligt låta externa experter granska dina system. Utkastet anger uttryckligen att företagen måste “säkerställa tillräcklig oberoende experttestning innan distribution”. Det är en enorm förändring från den nuvarande självregleringsansatsen.

Frågan uppstår: Vem är kvalificerad att testa dessa otroligt komplexa system? EU:s AI-kontor går in på ett område som aldrig har kartlagts tidigare. De kommer att behöva experter som kan förstå och utvärdera ny AI-teknik samtidigt som de upprätthåller strikt konfidentialitet om vad de upptäcker.

Denna externa testningskrav kan bli obligatoriskt i hela EU genom en kommissionsförordning. Företag kan försöka visa att de uppfyller kraven genom “tillräckliga alternativa medel”, men ingen vet riktigt vad det innebär i praktiken.

Upphovsrättsligt skydd blir allvarligt

EU tar också upphovsrätten på allvar. De tvingar AI-leverantörer att skapa tydliga policys för hur de hanterar immateriella rättigheter.

Kommissionen stöder robots.txt-standarden – en enkel fil som talar om för webbcrawlers var de kan och inte kan gå. Om en webbplats säger “nej” genom robots.txt, kan AI-företag inte bara ignorera det och träna på det innehållet ändå. Sökmotorer kan inte straffa webbplatser för att de använder dessa undantag. Det är en kraftfull dragning som sätter innehållsskaparna i förarsätet.

AI-företag kommer också att behöva aktivt undvika piratwebbplatser när de samlar in träningsdata. EU pekar till och med ut dem till sin “Counterfeit and Piracy Watch List” som en utgångspunkt.

Vad detta betyder för framtiden

EU skapar en helt ny spelplan för AI-utveckling. Dessa krav kommer att påverka allt från hur företag planerar sina AI-projekt till hur de samlar in sina träningsdata.

Varje stort AI-företag står nu inför ett val. De måste antingen:

• Öppna upp sina modeller för extern testning
• Försöka lista ut vad de mystiska “alternativa medlen” för regelefterlevnad ser ut
• Eller potentiellt begränsa sin verksamhet på EU-marknaden

Tidsplanen här är viktig. Detta är inte någon avlägsen framtida reglering – kommissionen rör sig snabbt. De lyckades få runt 1 000 intressenter indelade i fyra arbetsgrupper, alla som arbetar med detaljerna i hur detta kommer att fungera.

För företag som bygger AI-system kan dagarna med “gå fort och lösa reglerna senare” vara på väg att ta slut. De kommer att behöva börja tänka på dessa krav nu, inte när de blir obligatoriska. Det betyder:

• Planera för externa revisioner i sin utvecklingstidslinje
• Upprätta robusta system för upphovsrättsligt skydd
• Bygga dokumentationsramar som matchar EU:s krav

Den verkliga påverkan av dessa regleringar kommer att utvecklas under de kommande månaderna. Medan vissa företag kan söka efter kringgåenden, kommer andra att integrera dessa krav i sina utvecklingsprocesser. EU:s ram kan påverka hur AI-utveckling sker globalt, särskilt om andra regioner följer med liknande tillsynsåtgärder. När dessa regler går från utkast till implementering, står AI-branschen inför sin största regleringsförändring hittills.