Intervjuer
Stavros Gadinis, professor vid Berkeley Law och författare till Corporate Ordering – intervjuserie

Viktiga punkterFöretagsintern styrning beskriver hur företag skriver regler och övervakar sig själva…
Visa mer
- Företagsintern styrning beskriver hur företag skriver regler och övervakar sig själva innan tillsynsmyndigheter agerar.
- Utvärderingar av AI-säkerhet saknar oberoende när ledningen anställer och kan avskeda sina egna externa granskare.
- Ett säkerhetsramverk som aldrig har fördröjt en lansering går inte att skilja från PR.
Stavros Gadinis innehar George R. Johnson-professuren i juridik vid UC Berkeley School of Law. Hans forskning handlar om bolagsstyrning, finansiell reglering och de interna system som företag använder för att fatta beslut och följa upp dem. Innan han började arbeta inom akademin praktiserade han bolagsjuridik i Europa.
Hans nya bok, Corporate Ordering: Hur företag navigerar i samhällskonflikter, utgiven av Cambridge University Press, undersöker hur företag utvecklar styrsystem när de offentliga reglerna ännu inte är fastställda. Med hjälp av fall som rör samåkningstjänster, klimathållbarhet och artificiell intelligens utforskar den hur företag utformar regler, utövar auktoritet och utövar tillsyn över sitt eget agerande.
Din karriär omfattar både bolagsjuridiskt arbete i Europa och forskning om bolagsstyrning och finansiell reglering vid Berkeley Law. Hur har den bakgrunden format ditt tänkande, och vad inspirerade dig att skriva Corporate Ordering?
Jag inledde min karriär med att arbeta med bolagsjuridik i Europa och tillbringade sedan många år vid Berkeley med att studera bolagsstyrning och finansiell reglering, bland annat hur regler sprids över nationsgränser när ingen enskild regering har ansvaret. Vi tenderar att se näringslivet och regleringsvärlden som varandras motsatser: den ena angelägen om snabba beslut och stora vinster, den andra inriktad på byråkratiska processer och allmänintresset. Både praktiskt arbete och forskning har lärt mig att gränsen är betydligt suddigare än så.
Boken växte fram ur samtal med chefsjurister och ledande befattningshavare om hur de hanterar kontroversiella beslut, sådana där anställda, kunder, lokalsamhällen och myndigheter alla vill olika saker. Det som slog mig var hur mycket deras metoder liknar en bra tillsynsmyndighets. De samlar in information genom att vända sig till dem som berörs, förklarar sina val offentligt och bygger mekanismer för att kontrollera om besluten håller. Det här är varken tillsynsmyndigheters eller företags särskilda vanor. Det är principer för välgrundat beslutsfattande i alla institutioner som utövar makt över andra. Corporate Ordering är mitt försök att beskriva den här apparaten, visa var den fungerar och var den brister.
Vad är ”bolagsordning”, och hur bidrar begreppet till att förklara hur AI-företag sätter regler för teknik som regleringen ännu inte hunnit ikapp?
Bolagsordning är den interna styrningsinfrastruktur som företag bygger upp för att kunna fatta omstridda beslut innan lagen talar om för dem vad de ska göra. Den har tre funktioner som motsvarar statens grenar. Regelgivning är hur ett företag formulerar sina egna principer. Verkställande är hur det tillämpar dem på konkreta beslut. Tillsyn är hur företaget kontrollerar om det har följt sina principer och får reda på när det inte har gjort det.
AI-företag uppvisar alla tre funktionerna i praktiken. De ledande AI-laboratorierna utformar konstitutioner, modellspecifikationer och säkerhetsramverk – det är regelgivning. De beslutar om en modell är redo att lanseras, vad den ska avstå från att göra och vem som får tillgång till den – det är verkställande. Och de beställer red teaming, externa utvärderingar och incidentrapportering – det är tillsyn. I boken kartlägger jag dessa funktioner hos de stora laboratorierna. Skillnaderna är verkliga, men det finns också en tydlig konvergens: varje företag upptäcker varför det behöver alla delar.
Jag vill vara tydlig på en punkt, eftersom den ofta misstolkas. Bolagsordning är inte ett argument mot reglering. Begreppet beskriver det material som regleringen kommer att byggas av. När lagstiftare agerar lånar de begrepp som företagen har utvecklat först. Den verkliga frågan är om det första utkastet utformades tillräckligt omsorgsfullt för att förtjäna att lånas.
Din bok undersöker samåkningstjänster, klimathållbarhet och AI-styrning. Vilka lärdomar från de två första områdena är mest användbara för AI, och vilka grundläggande utmaningar är specifika för AI?
Lärdomen från samåkningstjänster och klimat är att företag mycket ofta skriver lagens första utkast. Uber och Lyft utvecklade rutiner för försäkringar och säkerhetsrapportering innan delstaterna hade regler för detta, och en stor del av företagens koldioxidredovisning bygger på GHG Protocol, en standard som näringslivet var med och utformade. Tillsynsmyndigheter godkände sedan dessa metoder, kompletterade dem eller skrev in dem i lag. Reglering börjar sällan från ett blankt papper. Ju mer genomtänkta företagen är i sina val och ju mer hänsyn de tar till berörda parter, desto större är sannolikheten att valen lever vidare i regleringen.
AI skiljer sig åt på två sätt. Det första är tempot. Tillsynsmyndigheter ligger ofta ett steg efter branschen, men inom AI är avståndet betydligt större. Tillsynsmyndigheterna kommer att behöva vända sig till företagen för att ta fram standarder och interna processer och koncentrera sina egna insatser på tillsyn, verifiering och efterlevnadskontroll. Det gör deras roll annorlunda, inte mindre viktig. Det är vid verifieringen som den offentliga makten spelar störst roll, eftersom intressekonflikten med företagsledningen är som starkast där. Den andra skillnaden är räckvidden. AI berör nästan alla delar av vardagslivet och har blivit en betydande investering för hela nationen. Konsekvenserna för systemrisken är lika svåra att förbise som att överblicka.
Vilka skyddsåtgärder krävs för att tillsynen ska vara verkligt oberoende när ett AI-företag självt väljer och betalar sina externa säkerhetsutvärderare?
Den här intressekonflikten är välkänd från finansiell revision, och bolagsrätten har redan verktyg för att hantera den. Den första frågan är vem som utser och entledigar granskaren. Ansvaret för kontakten med granskaren bör ligga hos oberoende styrelseledamöter utan andra ekonomiska band till företaget, på samma sätt som revisionsutskottet – inte vd:n eller finanschefen – ansvarar för den externa revisorn. Företagsledningen ska inte kunna avskeda en granskare vars slutsatser den ogillar.
Den andra frågan gäller tillgång till information och publicering. Granskaren måste få ta del av det material den begär och ha rätt att publicera sina slutsatser, eller åtminstone en meningsfull sammanfattning av dem, utan att företaget kan lägga in sitt veto. Risken för anseendeskada är det som ger granskningen tyngd. Den tredje frågan gäller gemensamma granskningsstandarder, så att en utvärdering betyder samma sak mellan olika företag och granskare inte kan konkurrera genom att vara mer tillåtande. Den fjärde gäller skydd för visselblåsare och till och med belöningar när de lämnar användbar information, eftersom personer inom företaget ofta är de första som får veta att en utvärdering har styrts.
Anta att en extern granskare upptäcker ett allvarligt säkerhetsproblem strax före lanseringen av en större modell. Vem bör få ta del av den bedömningen, och vem bör ha befogenhet att skjuta upp eller stoppa lanseringen?
Bedömningen bör gå direkt till styrelsen, helst till ett utskott med oberoende ledamöter med ansvar för säkerhetsfrågor, och inte enbart via företagsledningen som driver på för lansering. Företagsledningen kan och bör bemöta bedömningen, men ska inte fungera som filter. Befogenheten att skjuta upp eller stoppa lanseringen bör ligga hos styrelsen, eftersom det är precis den här typen av beslut som styrelser finns till för att fatta: beslut med stora insatser, motstridiga intressen och inget självklart rätt svar.
Men det viktigaste är att beslutet måste vara uttryckligt och dokumenterat, och att det går att spåra till personerna som fattade det. Om styrelsen går vidare trots invändningen bör dokumentationen visa vad den kände till, vilka faktorer den vägde in och varför den bedömde risken som godtagbar. En sådan dokumentation skapar förutsättningar för rättsligt ansvar, eller åtminstone anseendeskada, och får människor att tänka sig för en extra gång. Domstolar är alltmer benägna att erkänna att programvarans utformning får konsekvenser för användarna, och ett företag som kan visa att det gjort en seriös och dokumenterad ansträngning befinner sig i en helt annan position än ett företag som inte kan det.
Hur bör en trovärdig beslutsprocess i styrelsen se ut när säkerhetsproblem står i konflikt med intäktsmål eller konkurrenstryck?
En trovärdig process bygger på ett välgrundat beslut och lämnar dokumentation efter sig. Styrelsen bör få konkret information om kostnaderna för en försening, säkerhetsproblemets karaktär och sannolikhet samt vilka möjligheter som finns att begränsa risken. Den bör fråga om testerna varit tillräckliga och, om de inte varit det, beställa fler tester eller anlita en extern granskare. Om det fortfarande råder verklig osäkerhet finns det alternativ mellan att lansera och att lägga projektet på is, till exempel en begränsad lansering, en stegvis utrullning eller en sandlådemiljö, som gör det möjligt för företaget att lära sig mer innan det binder sig. Och oavsett vilket beslut styrelsen fattar måste företagets offentliga uttalanden om modellens säkerhet vara korrekta – det är här en stor del av den nuvarande risken för rättsprocesser ligger.
Därefter bör styrelsen dokumentera vad den beslutade och varför. Med tiden blir dokumentationen en samling prejudicerande beslut, så att nästa svåra avvägning kan jämföras med den föregående och alla som granskar företaget kan se om dess uttalade principer faktiskt styr besluten. Microsoft har börjat bygga upp den här typen av beslutsdokumentation, och jag tycker att det är ett av de mest underskattade verktygen inom AI-styrning. Konkurrenstrycket är verkligt, och en styrelse kan rimligen besluta att gå vidare. Men den får inte låta beslutet fattas av sig självt.
I ditt arbete föreslår du en standard för ”socialt affärsmässigt omdöme” vid bedömning av styrelsebeslut. Hur skulle den tillämpas på ett AI-företag som skjuter upp en lönsam produktlansering på grund av potentiell skada för allmänheten?
Enligt gällande bolagsrätt är en styrelse som skjuter upp en lönsam lansering redan väl skyddad. Domstolar respekterar styrelseledamöternas affärsmässiga bedömningar, och att acceptera lägre vinster i dag för att undvika skada i morgon ryms väl inom den principen. Den svårare frågan är den motsatta: om styrelsen över huvud taget tog risken för skada för allmänheten på allvar.
Socialt affärsmässigt omdöme innebär att styrelsen ska bedöma risken för skada för allmänheten på samma sätt som andra affärsrisker, med konkreta, mätbara och specifika mått där det är möjligt. Tyngdpunkten ligger på processen och den omsorgsfulla granskningen, inte på utfallet. En styrelse som hämtar in rätt information, lyssnar på dem som berörs och dokumenterar sina överväganden har gjort sig förtjänt av domstolarnas respekt, oavsett om den skjuter upp lanseringen eller genomför den. En styrelse som inte gör något av detta har det inte. I det fall du beskriver är det alltså inte själva uppskjutandet som är frågan. Frågan är om styrelsen kan visa hur den kom fram till beslutet och om den skulle fatta samma beslut igen under samma omständigheter.
AI-företag publicerar säkerhetsramverk och frivilliga åtaganden, men läsarna får sällan se hur dessa riktlinjer påverkar enskilda beslut. Vilka belägg skulle skilja effektiv styrning från ett PR-jippo?
När företag publicerar ramverk undrar allmänheten ofta om ramverket någonsin tillämpas på konkreta beslut eller bara förblir retorik som företaget aldrig omsätter i praktiken. Svaret är en viss typ av öppenhet. I stället för fler principförklaringar bör företagen redovisa vilka konkreta val de har gjort och hur ramverket har påverkat dem: vilka lanseringar som skjutits upp, vilka funktioner som hållits tillbaka, vilka risktrösklar som utlösts och vad som hände därefter.
Det mest talande belägget är ett beslut som kostade företaget något. Ett ramverk som aldrig har påverkat ett utfall, aldrig försenat en lansering och aldrig åberopats när intäkter stått på spel är svårt att skilja från pr-verksamhet. Redovisningen måste också vara tillräckligt konkret för att kunna verifieras. I de mest avgörande frågorna bör den verifieras av en tredje part med tillräcklig tyngd för att kunna uttala sig offentligt.
Var går gränsen för företagens självreglering? Vilka beslut om godtagbar AI-risk kräver offentliga regler eller demokratisk tillsyn?
Den viktigaste begränsningen gäller brister i tillsynen. Även ett välmenande och ansvarsfullt företag kan hamna i en allvarlig kris, och då mångdubblas intressekonflikterna. Anställda kan undanhålla information som skulle skada deras anställningstrygghet eller bonus. Chefer kan tysta ned dåliga nyheter för att undvika offentlig kritik. Rädsla för stämningar kan hindra företaget från att vara öppet. I tidigare företagskriser har den avgörande informationen oftast kommit från personer som ledningen inte kunnat kontrollera: externa revisorer och granskare, berörda parter eller interna visselblåsare som använt oberoende rapporteringskanaler.
Det är här offentliga regler spelar störst roll. Lagstiftningen kan tillföra relativt lite i själva regelutformningen, eftersom lagar ofta hämtar sina centrala begrepp från företagen. Den kan göra mer när det gäller öppenhet genom att omfatta företag som inte frivilligt lämnar information. Och mest kan den bidra genom verifiering: genom att kräva oberoende granskning, skydda visselblåsare och ge externa kontroller verklig befogenhet.
Den andra begränsningen är kollektiv. Det mesta ett enskilt företag kan göra är att hejda sig självt. Det kan inte hejda sina konkurrenter. Beslut om katastrofala risker, däribland om utvecklingen i teknikens framkant bör bromsas, kräver samordning mellan företag och regeringar, både nationellt och internationellt. En modell som jag tycker är lovande är ett internationellt standardiseringsorgan i stil med ISSB för hållbarhetsrapportering, oberoende av regeringar men övervakat av förvaltare som även omfattar regeringar. Företagens egen normbildning är nödvändig i detta arbete, eftersom dessa modeller tyglas inom de företag som bygger dem, men företagen kan inte driva arbetet på egen hand.
Om du i dag gav råd till styrelsen för ett snabbt växande AI-företag, vilka tre förändringar i styrningen skulle du prioritera, och vilka belägg skulle du ett år senare söka efter för att avgöra om de fungerat?
För det första: samråd inför regelutformning. Innan företaget antar eller reviderar sitt säkerhetsramverk eller sina användningspolicyer bör det samråda med berörda grupper (användare, civilsamhället och ämnesexperter) och offentliggöra vad det fått höra och hur det har svarat. För det andra: regelbunden ansvarsredovisning, en årlig redogörelse för de svåra beslut som styrelsen och företagsledningen fattat inom ramen för ramverket, med tillräckliga detaljer för att besluten ska kunna granskas. För det tredje: en extern granskare, utsedd av och rapporterande till oberoende styrelseledamöter, med full insyn och rätt att publicera sina resultat.
Ett år senare skulle jag leta efter belägg för att varje åtgärd faktiskt fått genomslag. När det gäller samrådet: minst en regel som ändrats till följd av det företaget fått höra. När det gäller redovisningen: offentliggjorda beslut som företaget helst hade sluppit diskutera, däribland sådana som kostat företaget intäkter eller tid. När det gäller granskaren: slutsatser som företaget inte ville höra och dokumentation av vad styrelsen gjorde åt dem. Om allt som redovisats efter ett år är goda nyheter har förändringarna inte fungerat.
Tack för en fin intervju! Läsare som vill utforska boken och olika köpalternativ kan besöka den officiella webbplatsen för Corporate Ordering.












