Wywiady
Stavros Gadinis, profesor prawa w Berkeley Law i autor książki Corporate Ordering – cykl wywiadów

Kluczowe punktyZamawianie korporacyjne opisuje, jak firmy tworzą zasady i same się monitorują, zanim…
Zobacz więcej
- Zamawianie korporacyjne opisuje, jak firmy tworzą zasady i same się monitorują, zanim zadziałają regulatorzy.
- Oceny bezpieczeństwa AI są pozbawione niezależności, gdy kierownictwo zatrudnia i może zwolnić własnych zewnętrznych recenzentów.
- Ramy bezpieczeństwa, które nigdy nie opóźniły premiery, są nieodróżnialne od public relations.
Stavros Gadinis jest profesorem prawa im. George’a R. Johnsona w UC Berkeley School of Law. W swoich badaniach zajmuje się ładem korporacyjnym, regulacjami finansowymi oraz wewnętrznymi systemami, które firmy wykorzystują do podejmowania i monitorowania decyzji. Zanim rozpoczął karierę akademicką, praktykował prawo korporacyjne w Europie.
Jego nowa książka, Ład korporacyjny: jak korporacje radzą sobie z konfliktami społecznymi, opublikowana przez Cambridge University Press, analizuje, jak firmy rozwijają systemy zarządzania w sytuacji, gdy zasady ustanawiane przez władze publiczne nie są jeszcze ustalone. Na przykładach z branży przewozów zamawianych przez aplikacje, zrównoważonego rozwoju w kontekście klimatu i sztucznej inteligencji autor rozważa, jak firmy ustanawiają zasady, sprawują władzę i nadzorują własne działania.
Pańska kariera obejmuje praktykę prawniczą w Europie oraz badania nad ładem korporacyjnym i regulacjami finansowymi w Berkeley Law. Jak to doświadczenie wpłynęło na Pańskie poglądy i co zainspirowało Pana do napisania książki Corporate Ordering?
Karierę rozpocząłem od praktyki w zakresie prawa korporacyjnego w Europie, a następnie przez wiele lat na Berkeley zajmowałem się ładem korporacyjnym i regulacjami finansowymi, w tym tym, jak zasady rozprzestrzeniają się ponad granicami, gdy żaden pojedynczy rząd nie sprawuje nad tym kontroli. Zwykle postrzegamy świat biznesu i świat regulacji jako przeciwieństwa: jeden dąży do szybkich decyzji i wysokich zysków, drugi jest przywiązany do biurokratycznych procedur i dobra publicznego. Praktyka i badania nauczyły mnie, że granica między nimi jest znacznie bardziej rozmyta.
Książka powstała na podstawie rozmów z radcami prawnymi i kadrą kierowniczą wyższego szczebla o tym, jak podejmują kontrowersyjne decyzje — takie, w przypadku których pracownicy, klienci, społeczności i rządy mają różne oczekiwania. Uderzyło mnie, jak bardzo ich metody przypominają działania dobrego regulatora. Zbierają informacje, kontaktując się z osobami, których dotyczą decyzje, publicznie wyjaśniają swoje wybory i tworzą mechanizmy sprawdzające, czy te wybory się sprawdzają. Nie są to ani nawyki regulatorów, ani praktyki korporacyjne. To zasady podejmowania trafnych decyzji w każdej instytucji sprawującej władzę nad innymi. Corporate Ordering to moja próba opisania tych mechanizmów, wskazania, kiedy działają, a kiedy zawodzą.
Czym jest „ład korporacyjny” i jak pomaga wyjaśnić, w jaki sposób firmy z branży AI ustanawiają zasady dotyczące technologii, za którymi regulacje jeszcze nie nadążają?
Ład korporacyjny to wewnętrzna infrastruktura zarządzania, którą firmy tworzą, by podejmować sporne decyzje, zanim prawo określi, jak powinny postępować. Pełni trzy funkcje, odpowiadające trzem gałęziom władzy państwowej. Stanowienie zasad polega na tym, że firma formułuje własne reguły. Działania wykonawcze polegają na stosowaniu ich w konkretnych decyzjach. Monitorowanie pozwala sprawdzać, czy firma wywiązała się ze swoich zobowiązań, a także ustalić, kiedy tego nie zrobiła.
W firmach z branży AI widać wszystkie trzy funkcje. Wiodące laboratoria tworzą konstytucje, specyfikacje modeli i ramy bezpieczeństwa — to właśnie stanowienie zasad. Decydują, czy model jest gotowy do wdrożenia, czego będzie odmawiał i kto uzyska do niego dostęp — to działania wykonawcze. Zlecają też testy red team, zewnętrzne oceny i raportowanie incydentów — to monitorowanie. W książce opisuję, jak te funkcje realizują największe laboratoria. Różnice między nimi są realne, ale równie wyraźna jest daleko idąca zbieżność: każda firma odkrywa, dlaczego potrzebuje wszystkich tych elementów.
Chcę wyjaśnić jedną rzecz, bo często bywa błędnie rozumiana. Ład korporacyjny nie jest argumentem przeciwko regulacjom. Opisuje materiał, z którego regulacje będą powstawać. Gdy ustawodawcy podejmują działania, korzystają z pojęć, które firmy opracowały wcześniej. Kluczowe pytanie brzmi, czy ten pierwszy projekt przygotowano na tyle starannie, by zasługiwał na wykorzystanie.
W książce analizuje Pan przewozy zamawiane przez aplikacje, zrównoważony rozwój w kontekście klimatu i zarządzanie AI. Które wnioski z dwóch pierwszych obszarów są najbardziej przydatne dla AI, a jakie zasadniczo odmienne wyzwania wiążą się ze sztuczną inteligencją?
Wniosek z doświadczeń branży przewozów zamawianych przez aplikacje i działań na rzecz klimatu jest taki, że korporacje bardzo często przygotowują pierwszy projekt przepisów. Uber i Lyft opracowały praktyki dotyczące ubezpieczeń i raportowania kwestii bezpieczeństwa, zanim stany wprowadziły odpowiednie regulacje, a znaczna część korporacyjnej rachunkowości emisji opiera się na GHG Protocol — standardzie, którego opracowanie współtworzył biznes. Następnie organy regulacyjne aprobowały te praktyki, uzupełniały je lub wpisywały do prawa. Regulacje rzadko powstają od zera. Im bardziej firmy starannie rozważają swoje wybory i uwzględniają osoby, których one dotyczą, tym większa szansa, że te wybory zostaną uwzględnione w regulacjach.
AI różni się pod dwoma względami. Pierwszym jest tempo. Organy regulacyjne często pozostają o krok za branżą, ale w przypadku AI różnica jest znacznie większa. Będą musiały polegać na firmach przy opracowywaniu standardów i wewnętrznych procedur, a własne działania skupić na nadzorze, weryfikacji i egzekwowaniu przepisów. To sprawia, że ich rola jest inna, a nie mniejsza. Weryfikacja ma szczególne znaczenie dla władzy publicznej, ponieważ właśnie wtedy konflikt interesów z kierownictwem jest najsilniejszy. Drugą różnicą jest zasięg. AI wpływa na niemal każdą sferę codziennego życia i stała się ważnym obszarem inwestycji dla całego kraju. Trudno nie dostrzec systemowych zagrożeń, a jeszcze trudniej w pełni pojąć ich skalę.
Gdy firma z branży AI sama wybiera i opłaca zewnętrznych ekspertów oceniających bezpieczeństwo, jakie zabezpieczenia pozwalają zapewnić rzeczywistą niezależność takiego nadzoru?
Ten konflikt interesów jest dobrze znany z audytów finansowych, a prawo spółek już dysponuje narzędziami, które pozwalają sobie z nim radzić. Po pierwsze, trzeba ustalić, kto zatrudnia i zwalnia oceniającego. Relacja z nim powinna podlegać niezależnym członkom rady, którzy nie mają z firmą żadnych innych powiązań finansowych — podobnie jak za nadzór nad audytorem zewnętrznym odpowiada komitet audytu, a nie prezes ani dyrektor finansowy. Zarząd nie powinien mieć możliwości zwolnienia osoby oceniającej, jeśli jej ustalenia są dla niego niewygodne.
Po drugie, chodzi o dostęp do informacji i możliwość publikowania ustaleń. Oceniający musi mieć wgląd w to, o co prosi, oraz prawo do opublikowania swoich ustaleń — albo przynajmniej ich rzetelnego podsumowania — bez prawa weta ze strony firmy. To ryzyko utraty reputacji nadaje ocenie realną moc. Po trzecie, potrzebne są wspólne standardy oceny, tak aby miała ona takie samo znaczenie w różnych firmach i aby oceniający nie mogli konkurować ze sobą pobłażliwością. Po czwarte, należy chronić sygnalistów, a nawet ich nagradzać, gdy przekazują informacje pozwalające podjąć konkretne działania, ponieważ osoby z wewnątrz firmy często jako pierwsze dowiadują się, że przebieg oceny został zmanipulowany.
Załóżmy, że tuż przed premierą ważnego modelu zewnętrzny oceniający wykrywa poważne zagrożenie dla bezpieczeństwa. Kto powinien otrzymać informację o tym ustaleniu i kto powinien mieć uprawnienia do opóźnienia lub wstrzymania wdrożenia?
Informacja o ustaleniu powinna trafić bezpośrednio do rady, najlepiej do komitetu złożonego z niezależnych członków odpowiedzialnych za bezpieczeństwo, a nie wyłącznie za pośrednictwem zespołu zarządzającego, któremu zależy na premierze. Zarząd może i powinien się do tego odnieść, ale nie powinien pełnić roli filtra. Uprawnienia do opóźnienia lub wstrzymania wdrożenia powinny należeć do rady, ponieważ właśnie do podejmowania takich decyzji powołane są rady — decyzji obarczonych dużym ryzykiem, wiążących się ze sprzecznymi interesami i pozbawionych oczywistej, słusznej odpowiedzi.
Ważniejsze jest jednak to, by decyzja była wyraźnie podjęta, udokumentowana i możliwa do przypisania osobom, które ją podjęły. Jeśli rada mimo zgłoszonych zastrzeżeń zdecyduje się kontynuować działania, dokumentacja powinna pokazywać, co wiedziała, jakie okoliczności wzięła pod uwagę i dlaczego uznała ryzyko za dopuszczalne. Taki ślad dokumentacyjny stwarza podstawy do pociągnięcia do odpowiedzialności, a co najmniej do utraty reputacji, i skłania do ostrożności. Sądy coraz częściej uznają, że decyzje projektowe dotyczące oprogramowania mają konsekwencje dla użytkowników, a firma, która potrafi wykazać, że podjęła poważne i udokumentowane działania, znajduje się w zupełnie innej sytuacji niż firma, która nie może tego dowieść.
Jak powinien wyglądać wiarygodny proces podejmowania decyzji przez radę, gdy obawy o bezpieczeństwo kolidują z celami przychodowymi lub presją konkurencyjną?
Wiarygodny proces opiera się na rzetelnych informacjach i pozostawia po sobie dokumentację. Rada powinna otrzymać konkretne informacje o kosztach opóźnienia, charakterze i prawdopodobieństwie zagrożenia dla bezpieczeństwa oraz możliwościach ograniczenia tego zagrożenia. Powinna sprawdzić, czy testy były wystarczające, a jeśli nie — zlecić dodatkowe testy lub zwrócić się o zewnętrzną ocenę. Gdy pozostaje rzeczywista niepewność, istnieją rozwiązania pośrednie między premierą a odłożeniem projektu na półkę, takie jak ograniczone udostępnienie, wdrażanie etapami lub środowisko testowe, które pozwalają firmie zdobyć więcej informacji, zanim podejmie ostateczne zobowiązanie. Niezależnie od decyzji rady, publiczne komunikaty firmy na temat bezpieczeństwa modelu muszą być zgodne z prawdą — to właśnie w tym obszarze kryje się znaczna część obecnego ryzyka sporów sądowych.
Rada powinna następnie zapisać, co postanowiła i dlaczego. Z czasem takie zapisy tworzą zbiór precedensów, dzięki któremu kolejne trudne decyzje można porównywać z wcześniejszymi, a każdy, kto ocenia firmę, może sprawdzić, czy deklarowane przez nią zasady rzeczywiście ją wiążą. Microsoft zaczął tworzyć tego rodzaju dokumentację decyzji i uważam, że jest to jedno z najbardziej niedocenianych narzędzi zarządzania AI. Presja konkurencyjna jest realna, a rada może zasadnie zdecydować o kontynuowaniu działań. Nie może jednak pozwolić, by decyzja zapadła domyślnie.
W swojej pracy proponuje Pan standard „społecznego osądu biznesowego” do oceny decyzji podejmowanych przez rady. Jak miałby on zastosowanie do firmy AI, która opóźnia premierę dochodowego produktu z powodu możliwej szkody dla społeczeństwa?
Zgodnie z obowiązującym prawem spółek rada, która opóźnia dochodową premierę, jest już dobrze chroniona. Sądy respektują osąd biznesowy członków rady, a rezygnacja z części zysków dziś, by uniknąć szkód jutro, mieści się w jego granicach. Trudniejsze jest pytanie odwrotne: czy rada w ogóle poważnie potraktowała możliwość wyrządzenia szkody społeczeństwu.
Społeczny osąd biznesowy wymaga, by rada oceniała możliwe szkody dla społeczeństwa tak samo jak każde inne ryzyko biznesowe, w miarę możliwości posługując się konkretnymi, mierzalnymi i precyzyjnie określonymi wskaźnikami. Najważniejsze są proces i należyta staranność, a nie sam wynik. Rada, która pozyskuje odpowiednie informacje, wysłuchuje osób, których sprawa dotyczy, i dokumentuje swoje rozumowanie, zasługuje na to, by uszanować jej osąd — niezależnie od tego, czy opóźnia premierę, czy ją przeprowadza. Rada, która nie robi żadnej z tych rzeczy, na to nie zasługuje. W opisanym przez Pana przypadku sam fakt opóźnienia premiery nie jest więc istotą problemu. Chodzi o to, czy rada potrafi wykazać, jak doszła do tej decyzji i czy przy tych samych faktach podjęłaby ją ponownie.
Firmy AI publikują ramy bezpieczeństwa i dobrowolne zobowiązania, ale czytelnicy rzadko widzą, jak te zasady wpływają na poszczególne decyzje. Jakie dowody pozwoliłyby odróżnić skuteczne zarządzanie od działań służących jedynie poprawie wizerunku?
Bardzo często, gdy firmy publikują ramy działania, odbiorcy zastanawiają się, czy kiedykolwiek wpływają one na konkretne decyzje, czy też pozostają jedynie retoryką, za którą firma nigdy nie idzie. Odpowiedzią jest określony rodzaj jawności. Zamiast kolejnych deklaracji zasad firmy powinny informować o konkretnych podjętych decyzjach i o tym, jak wpłynęły na nie przyjęte ramy: które premiery opóźniono, które możliwości wstrzymano, jakie progi ryzyka zostały przekroczone i jakie były tego następstwa.
Najbardziej wymownym dowodem jest decyzja, która coś firmę kosztowała. Trudno odróżnić od działań public relations ramy, które nigdy nie zmieniły wyniku, nie opóźniły premiery ani nie zostały zastosowane wbrew interesom firmy. Informacje te muszą być też na tyle konkretne, by można je było zweryfikować, a w przypadku najważniejszych kwestii powinny być weryfikowane przez stronę trzecią mającą autorytet, by publicznie to stwierdzić.
Gdzie kończą się możliwości samoregulacji firm? Które decyzje dotyczące akceptowalnego ryzyka związanego ze sztuczną inteligencją wymagają publicznych regulacji lub demokratycznego nadzoru?
Najważniejsze ograniczenie dotyczy niedostatecznego monitorowania. Nawet firma działająca w dobrej wierze i odpowiedzialnie może stanąć w obliczu poważnego kryzysu, a w takiej chwili konflikty interesów się mnożą. Pracownicy mogą zatajać informacje, które zagroziłyby ich posadom lub premiom. Kierownictwo może ukrywać złe wiadomości, by uniknąć publicznej krytyki. Obawa przed pozwami może powstrzymywać firmę przed otwartością. W przeszłych kryzysach korporacyjnych kluczowe informacje zwykle pochodziły od osób, nad którymi kierownictwo nie miało kontroli: zewnętrznych audytorów i recenzentów, osób dotkniętych skutkami kryzysu lub wewnętrznych sygnalistów korzystających z niezależnych kanałów zgłaszania.
Właśnie w tym obszarze publiczne regulacje mają największe znaczenie. Na etapie tworzenia przepisów prawo może wnieść stosunkowo niewiele, ponieważ ustawy często zapożyczają kluczowe pojęcia od firm. Więcej może zdziałać w kwestii jawności, obejmując firmy, które nie chcą dobrowolnie ujawniać informacji. Najwięcej wnosi zaś w zakresie weryfikacji: wymaga niezależnych kontroli, chroni sygnalistów i nadaje zewnętrznemu nadzorowi realne uprawnienia.
Kolejne ograniczenie ma charakter zbiorowy. Pojedyncza firma może co najwyżej powstrzymać samą siebie. Nie może powstrzymać konkurentów. Decyzje dotyczące ryzyka katastrofalnego, w tym tego, czy spowolnić rozwój najbardziej zaawansowanych modeli, wymagają koordynacji między firmami i rządami, zarówno w kraju, jak i na arenie międzynarodowej. Za obiecujący uważam model międzynarodowego organu ustanawiającego standardy, wzorowanego na ISSB w zakresie raportowania dotyczącego zrównoważonego rozwoju: niezależnego od rządów, ale nadzorowanego przez radę powierniczą, w której zasiadają również ich przedstawiciele. Porządek korporacyjny jest niezbędny w tych działaniach, ponieważ okiełznywanie tych modeli odbywa się wewnątrz firm, które je tworzą, ale nie może być ich jedynym filarem.
Gdyby dziś doradzał(a) Pan/Pani zarządowi szybko rozwijającej się firmy zajmującej się sztuczną inteligencją, jakie trzy zmiany w zarządzaniu uznał(a)by Pan/Pani za priorytetowe i jakich dowodów szukał(a)by Pan/Pani po roku, by ocenić, czy przyniosły efekty?
Po pierwsze, konsultacje przy tworzeniu zasad. Zanim firma przyjmie lub zmieni ramy bezpieczeństwa albo zasady korzystania z usług, powinna skonsultować się z osobami, których one dotyczą (użytkownikami, przedstawicielami społeczeństwa obywatelskiego i ekspertami dziedzinowymi), a następnie opublikować, jakie opinie zebrała i jak na nie zareagowała. Po drugie, regularne raportowanie odpowiedzialności: coroczne sprawozdanie z trudnych decyzji podejmowanych przez zarząd i kierownictwo w ramach przyjętych zasad, zawierające wystarczająco szczegółowe informacje, by można je było zweryfikować. Po trzecie, zewnętrzny nadzorca zatrudniony przez niezależnych członków zarządu i składający im raporty, mający pełny dostęp do informacji oraz prawo do publikowania ustaleń.
Po roku szukałbym dowodów, że każda z tych zmian rzeczywiście przyniosła skutki. W przypadku konsultacji — przynajmniej jednej zasady zmienionej pod wpływem zebranych opinii. W przypadku raportowania — ujawnionych decyzji, o których firma wolałaby nie mówić, w tym takich, które kosztowały ją przychody lub czas. W przypadku nadzorcy — ustaleń, których firma nie chciała poznać, oraz informacji o tym, co zarząd z nimi zrobił. Jeśli po roku wszystkie publikowane informacje będą pomyślne, zmiany nie przyniosły efektów.
Dziękujemy za świetny wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej o książce i możliwościach jej zakupu, powinni odwiedzić oficjalną stronę internetową poświęconą porządkowi korporacyjnemu.












