Interviews
Stavros Gadinis, professor i jura ved Berkeley Law og forfatter til Corporate Ordering – interviewserie

NøglepunkterVirksomhedsordrer beskriver, hvordan firmaer skriver regler og overvåger sig selv, før…
Vis mere
- Virksomhedsordrer beskriver, hvordan firmaer skriver regler og overvåger sig selv, før tilsynsmyndighederne handler.
- AI-sikkerhedsevalueringer mangler uafhængighed, når ledelsen ansætter og kan afskedige sine egne eksterne bedømmere.
- En sikkerhedsramme, der aldrig har forsinket en lancering, kan ikke skelnes fra PR.
Stavros Gadinis er George R. Johnson-professor i jura ved UC Berkeley School of Law. Hans forskning undersøger virksomhedsledelse, finansiel regulering og de interne systemer, virksomheder bruger til at træffe og overvåge beslutninger. Før han begyndte sin akademiske karriere, arbejdede han med erhvervsret i Europa.
Hans nye bog, Corporate Ordering: Sådan navigerer virksomheder i sociale konflikter, udgivet af Cambridge University Press, undersøger, hvordan virksomheder udvikler styringssystemer, når de offentlige regler endnu ikke er fastlagt. Med udgangspunkt i sager om kørselstjenester, klimamæssig bæredygtighed og kunstig intelligens ser bogen på, hvordan virksomheder udformer regler, udøver myndighed og fører tilsyn med deres egen adfærd.
Din karriere spænder over erhvervsretlig praksis i Europa og forskning i virksomhedsledelse og finansiel regulering ved Berkeley Law. Hvordan har den baggrund præget din tankegang, og hvad inspirerede dig til at skrive Corporate Ordering?
Jeg begyndte min karriere med at arbejde med erhvervsret i Europa og tilbragte derefter mange år på Berkeley med at studere virksomhedsledelse og finansiel regulering, herunder hvordan regler spredes på tværs af grænser, når ingen enkelt regering har ansvaret. Vi har en tendens til at betragte erhvervslivet og reguleringsverdenen som modsætninger: Den ene stræber efter hurtige beslutninger og store profitter, mens den anden er optaget af bureaukratiske processer og almenvellet. Både praksis og forskning har lært mig, at skellet er langt mere udvisket, end man skulle tro.
Bogen udsprang af samtaler med juridiske chefer og ledende direktører om, hvordan de håndterer kontroversielle beslutninger, hvor medarbejdere, kunder, lokalsamfund og myndigheder alle ønsker forskellige ting. Det slog mig, hvor meget deres metoder ligner en god tilsynsmyndigheds. De indhenter oplysninger ved at kontakte de berørte, forklarer deres valg offentligt og indfører mekanismer til at kontrollere, om valgene holder stik. Det er hverken særlige tilsynsmetoder eller særlige virksomhedsvaner. Det er principper for velovervejede beslutninger i enhver institution, der udøver magt over andre. Corporate Ordering er mit forsøg på at beskrive dette maskineri, vise, hvor det fungerer, og hvor det svigter.
Hvad er »corporate ordering«, og hvordan hjælper begrebet med at forklare, hvordan AI-virksomheder fastsætter regler for teknologier, som reguleringen endnu ikke har indhentet?
Corporate ordering er den interne styringsstruktur, virksomheder opbygger for at træffe omstridte beslutninger, før loven fortæller dem, hvad de skal gøre. Den har tre funktioner, der afspejler statens magtgrene. Regeludformning er den måde, en virksomhed formulerer sine egne principper på. Udøvende handling er den måde, virksomheden anvender dem på i konkrete beslutninger. Tilsyn er den måde, virksomheden kontrollerer, om den har fulgt op, og finder ud af, når den ikke har gjort det.
AI-virksomheder viser alle tre funktioner i praksis. De førende AI-laboratorier udarbejder forfatninger, modelspecifikationer og sikkerhedsrammer, hvilket er regeludformning. De beslutter, om en model er klar til lancering, hvad den vil afvise, og hvem der får adgang, hvilket er udøvende handling. Og de bestiller red teaming, eksterne evalueringer og indberetning af hændelser, hvilket er tilsyn. I bogen kortlægger jeg disse funktioner på tværs af de største laboratorier. Forskellene er reelle, men det samme gælder en markant konvergens, efterhånden som hver virksomhed indser, hvorfor den har brug for alle elementerne.
Jeg vil gerne gøre én ting helt klart, for den bliver ofte misforstået. Corporate ordering er ikke et argument imod regulering. Begrebet beskriver det grundlag, reguleringen vil blive bygget på. Når lovgiverne handler, låner de begreber, som virksomhederne har udviklet først. Det afgørende spørgsmål er, om det første udkast blev udarbejdet omhyggeligt nok til at fortjene at blive brugt.
Din bog undersøger kørselstjenester, klimamæssig bæredygtighed og styring af AI. Hvilke erfaringer fra de to første områder er mest nyttige for AI, og hvor står AI over for grundlæggende anderledes udfordringer?
Erfaringen fra kørselstjenester og klima er, at virksomheder meget ofte skriver det første udkast til lovgivningen. Uber og Lyft udviklede praksisser for forsikring og sikkerhedsrapportering, før delstaterne havde regler på området, og en stor del af virksomhedernes CO2-regnskaber bygger på GHG Protocol, en standard, som erhvervslivet var med til at udvikle. Tilsynsmyndighederne blåstemplede derefter disse praksisser, supplerede dem eller skrev dem ind i lovgivningen. Regulering begynder sjældent på bar bund. Og jo mere velovervejede virksomhederne er i deres valg, og jo mere de tager hensyn til de berørte parter, desto større er sandsynligheden for, at valgene bliver videreført i reguleringen.
AI adskiller sig på to måder. Den første er hastigheden. Tilsynsmyndighederne er ofte et skridt bagefter branchen, men på AI-området er afstanden langt større. Myndighederne bliver nødt til at se til virksomhederne for udvikling af standarder og interne processer og koncentrere deres egne kræfter om tilsyn, kontrol og håndhævelse. Det gør deres rolle anderledes, ikke mindre. Kontrol er dér, hvor den offentlige magt betyder mest, fordi interessekonflikten med ledelsen er stærkest dér. Den anden forskel er rækkevidden. AI berører næsten alle aspekter af hverdagen, og teknologien er blevet en stor investering for nationen som helhed. Konsekvenserne for den systemiske risiko er lige så umulige at overse, som de er svære at begribe.
Når en AI-virksomhed selv udvælger og betaler sine eksterne sikkerhedsevaluatorer, hvilke værn kan så sikre, at tilsynet reelt er uafhængigt?
Denne interessekonflikt kendes fra finansiel revision, og selskabsretten har allerede redskaber til at håndtere den. Det første spørgsmål er, hvem der ansætter og afskediger. Ansvaret for relationen til den eksterne evaluator bør ligge hos uafhængige bestyrelsesmedlemmer uden andre økonomiske forbindelser til virksomheden, ligesom revisionsudvalget – og ikke den administrerende direktør eller økonomidirektøren – fører tilsyn med den eksterne revisor. Ledelsen bør ikke kunne afskedige en evaluator, hvis konklusioner er ubekvemme.
Det andet spørgsmål handler om adgang og offentliggørelse. Evaluatoren skal have adgang til at se det, vedkommende beder om at se, og ret til at offentliggøre sine konklusioner eller som minimum et fyldestgørende resumé uden virksomhedens vetoret. Det er risikoen for omdømmeskade, der giver en evaluering gennemslagskraft. For det tredje er der behov for fælles standarder for evaluering, så en evaluering betyder det samme på tværs af virksomheder, og evaluatorer ikke kan konkurrere ved at være mere lempelige. For det fjerde skal whistleblowere beskyttes og endda belønnes, når de kommer med oplysninger, der kan handles på, fordi virksomhedens egne medarbejdere ofte er de første, der opdager, at en evaluering er blevet påvirket.
Forestil dig, at en ekstern evaluator opdager et alvorligt sikkerhedsproblem kort før lanceringen af en større model. Hvem bør modtage denne vurdering, og hvem bør have bemyndigelse til at udsætte eller standse lanceringen?
Vurderingen bør gå direkte til bestyrelsen, helst til et udvalg af uafhængige bestyrelsesmedlemmer med ansvar for sikkerhed, og ikke kun gennem den ledelse, der arbejder for at få modellen lanceret. Ledelsen kan og bør svare, men den bør ikke fungere som filter. Bemyndigelsen til at udsætte eller standse lanceringen bør ligge hos bestyrelsen, fordi det netop er den slags beslutninger, bestyrelser er sat i verden for at træffe: beslutninger med store konsekvenser, modstridende interesser og intet åbenlyst rigtigt svar.
Men det vigtigste er, at beslutningen skal være udtrykkelig, dokumenteret og kunne føres tilbage til de personer, der traf den. Hvis bestyrelsen går videre trods bekymringen, bør dokumentationen vise, hvad den vidste, hvad den tog med i sine overvejelser, og hvorfor den vurderede, at risikoen var acceptabel. Det skaber grundlag for ansvar eller i det mindste omdømmeskade, og det får folk til at tænke sig om en ekstra gang. Domstolene er i stigende grad villige til at anerkende, at designvalg i software har konsekvenser for brugerne, og en virksomhed, der kan dokumentere en seriøs indsats, står i en helt anden situation end en, der ikke kan.
Når sikkerhedshensyn kolliderer med omsætningsmål eller konkurrencepres, hvordan bør en troværdig beslutningsproces i bestyrelsen så se ud?
En troværdig proces bygger på et oplyst grundlag og efterlader dokumentation. Bestyrelsen bør få konkrete oplysninger om omkostningerne ved en forsinkelse, sikkerhedsproblemets karakter og sandsynlighed samt mulighederne for at begrænse det. Den bør spørge, om testningen var tilstrækkelig, og hvis den ikke var det, bestille yderligere test eller bede om en ekstern vurdering. Hvis der fortsat er reel usikkerhed, findes der muligheder mellem at lancere og at skrinlægge, såsom en begrænset frigivelse, en trinvis udrulning eller et sandkassemiljø, som giver virksomheden mulighed for at lære mere, før den forpligter sig. Uanset hvad bestyrelsen beslutter, skal virksomhedens efterfølgende offentlige udtalelser om modellens sikkerhed være korrekte; det er her, en stor del af den aktuelle risiko for retssager ligger.
Bestyrelsen bør derefter skrive ned, hvad den besluttede, og hvorfor. Med tiden bliver disse optegnelser et sæt af præcedenser, så den næste vanskelige beslutning kan måles op imod den forrige, og enhver, der gennemgår virksomhedens arbejde, kan se, om dens erklærede principper rent faktisk er bindende. Microsoft er begyndt at opbygge denne type beslutningsdokumentation, og jeg mener, at det er et af de mest undervurderede redskaber inden for AI-styring. Konkurrencepresset er reelt, og en bestyrelse kan med god grund beslutte at gå videre. Men den må ikke træffe beslutningen ved blot at lade tingene ske.
Dit arbejde foreslår en standard for »socialt forretningsmæssigt skøn« til vurdering af bestyrelsesbeslutninger. Hvordan ville den gælde for en AI-virksomhed, der udsætter en indbringende produktlancering på grund af potentiel skade på offentligheden?
Efter gældende selskabsret er en bestyrelse, der udsætter en indbringende lancering, allerede godt beskyttet. Domstolene viser tilbageholdenhed over for at tilsidesætte bestyrelsesmedlemmers forretningsmæssige skøn, og det ligger helt inden for dette skøn at acceptere lavere indtjening i dag for at undgå skade i morgen. Det vanskeligere spørgsmål går den anden vej: om bestyrelsen overhovedet tog potentiel skade på offentligheden alvorligt.
Socialt forretningsmæssigt skøn indebærer, at bestyrelsen vurderer potentiel skade på offentligheden på samme måde som enhver anden forretningsrisiko, så vidt muligt ved hjælp af konkrete, målbare og specifikke målepunkter. Vægten ligger på processen og den fornødne omhu, ikke på resultatet. En bestyrelse, der indhenter de rette oplysninger, hører fra dem, der berøres, og dokumenterer sine overvejelser, har gjort sig fortjent til, at dens skøn respekteres, uanset om den udsætter lanceringen eller gennemfører den. En bestyrelse, der ikke gør noget af dette, har ikke gjort sig fortjent til det. I det tilfælde, du beskriver, er selve udsættelsen altså ikke problemet. Spørgsmålet er, om bestyrelsen kan vise, hvordan den nåede frem til beslutningen, og om den ville træffe den samme beslutning igen på grundlag af de samme oplysninger.
AI-virksomheder offentliggør sikkerhedsrammer og frivillige forpligtelser, men læserne ser sjældent, hvordan disse politikker påvirker konkrete beslutninger. Hvilke tegn ville kunne skelne effektiv styring fra et PR-stunt?
Når virksomheder offentliggør rammeværk, står offentligheden ofte tilbage og spekulerer på, om rammeværket overhovedet anvendes på konkrete beslutninger, eller om det blot er retorik, som virksomheden aldrig følger op på. Svaret er en bestemt form for åbenhed. I stedet for flere principerklæringer bør virksomhederne redegøre for de konkrete valg, de har truffet, og for, hvordan rammeværket har påvirket dem: Hvilke lanceringer blev udskudt, hvilke funktioner blev holdt tilbage, hvilke risikotærskler blev overskredet, og hvad fulgte derpå?
Det mest sigende bevis er en beslutning, der har kostet virksomheden noget. Et rammeværk, der aldrig har ændret et resultat, aldrig har forsinket en lancering og aldrig er blevet bragt i anvendelse på bekostning af omsætningen, er svært at skelne fra PR. Oplysningerne skal også være tilstrækkeligt konkrete til, at de kan efterprøves, og de mest vidtrækkende spørgsmål bør verificeres af en tredjepart med den fornødne troværdighed til at kunne udtale sig offentligt om det.
Hvor går grænsen for virksomheders selvregulering? Hvilke beslutninger om acceptabel AI-risiko kræver offentlige regler eller demokratisk tilsyn?
Den vigtigste begrænsning handler om svigt i overvågningen. Selv en velmenende og ansvarlig virksomhed kan stå over for en alvorlig krise, og i det øjeblik vokser interessekonflikterne. Medarbejdere kan tilbageholde oplysninger, der vil skade deres job eller bonus. Direktører kan undertrykke dårlige nyheder for at undgå offentlig kritik. Frygt for retssager kan afholde virksomheden fra at være åben. I tidligere virksomhedskriser er de afgørende oplysninger som regel kommet fra personer, som ledelsen ikke kunne kontrollere, eksterne revisorer og kontrollanter, berørte parter eller interne whistleblowere, der benyttede uafhængige indberetningskanaler.
Det er her, offentlige regler gør størst forskel. Lovgivningen kan bidrage relativt lidt i fasen, hvor reglerne udformes, fordi love har en tendens til at låne deres centrale begreber fra virksomhederne. Den kan bidrage mere, når det gælder åbenhed, ved også at omfatte virksomheder, der ikke frivilligt offentliggør oplysninger. Og den bidrager mest til efterprøvning ved at kræve uafhængig kontrol, beskytte whistleblowere og give ekstern kontrol reel myndighed.
Den anden begrænsning handler om kollektiv handling. Det meste, en enkelt virksomhed kan gøre, er at standse sig selv. Den kan ikke standse sine konkurrenter. Beslutninger om katastrofale risici, herunder om udviklingen på forkant skal bremses, kræver koordinering mellem virksomheder og regeringer, både nationalt og internationalt. En model, jeg finder lovende, er en international standardiseringsorganisation efter forbillede af ISSB inden for bæredygtighedsrapportering, uafhængig af regeringer, men under tilsyn af bestyrelsesmedlemmer, som også omfatter repræsentanter for regeringerne. Virksomhedsorden er nødvendig for dette arbejde, fordi det er inde i de virksomheder, der udvikler modellerne, at de bliver tæmmet, men den kan ikke løfte opgaven alene.
Hvis du i dag rådgav bestyrelsen for en AI-virksomhed i hastig vækst, hvilke tre ændringer i virksomhedens styring ville du prioritere, og hvilke tegn ville du se efter et år senere for at afgøre, om de havde virket?
For det første inddragelse i regeludformningen. Før virksomheden vedtager eller reviderer sit sikkerhedsrammeværk eller sine brugspolitikker, bør den rådføre sig med de berørte parter (brugere, civilsamfundet og fagfolk på området) og offentliggøre, hvad den har hørt, og hvordan den har reageret. For det andet regelmæssig rapportering om ansvarlighed: en årlig redegørelse for de vanskelige beslutninger, som bestyrelsen og ledelsen har truffet inden for rammeværket, med tilstrækkelige detaljer til, at de kan efterprøves. For det tredje en ekstern kontrollant, der ansættes af og refererer til uafhængige bestyrelsesmedlemmer, og som har fuld adgang og ret til at offentliggøre sine resultater.
Et år senere ville jeg se efter tegn på, at hvert tiltag rent faktisk havde haft effekt. Når det gælder inddragelse, ville jeg se efter mindst én regel, der var blevet ændret på baggrund af det, virksomheden havde hørt. Når det gælder rapportering, ville jeg se efter offentliggjorte beslutninger, som virksomheden helst ville have undgået at drøfte, herunder beslutninger, der kostede den omsætning eller tid. Når det gælder kontrollanten, ville jeg se efter resultater, virksomheden ikke ønskede, og en redegørelse for, hvad bestyrelsen gjorde ved dem. Hvis alle de rapporterede nyheder efter et år er gode, har ændringerne ikke virket.
Tak for et godt interview. Læsere, der ønsker at udforske bogen og købsmulighederne, bør besøge det officielle websted for Virksomhedsorden.












