Інтерв’ю

Ставрос Гадініс, професор права в Berkeley Law і автор книги Corporate Ordering — серія інтерв’ю

Antoine Tardif
Додайте Unite.AI до бажаних джерел у Google
Stavros Gadinis, George R. Johnson Professor of Law at UC Berkeley School of Law
Ключові моментиКорпоративне впорядкування описує, як фірми пишуть правила та контролюють себе, перш…
Показати більше
  • Корпоративне впорядкування описує, як фірми пишуть правила та контролюють себе, перш ніж діють регулятори.
  • Оцінювання безпеки ШІ бракує незалежності, коли керівництво наймає і може звільняти власних зовнішніх рецензентів.
  • Структура безпеки, яка ніколи не затримувала запуск, не відрізняється від зв'язків з громадськістю.

Stavros Gadinis — професор права імені Джорджа Р. Джонсона у Школі права Каліфорнійського університету в Берклі. У своїх дослідженнях він вивчає корпоративне управління, фінансове регулювання та внутрішні системи, за допомогою яких компанії ухвалюють рішення й контролюють їх виконання. До початку академічної кар’єри він практикував корпоративне право в Європі.

У своїй новій книжці «Корпоративне впорядкування: як корпорації долають соціальні конфлікти», виданій Cambridge University Press, він досліджує, як компанії розробляють системи управління, коли правила, встановлені державою, ще не визначені. На прикладах, пов’язаних із сервісами спільних поїздок, кліматичною сталістю та штучним інтелектом, у книжці розглянуто, як компанії встановлюють правила, здійснюють владні повноваження й контролюють власну діяльність.

Ваша кар’єра охоплює практику корпоративного права в Європі та дослідження корпоративного управління й фінансового регулювання в Berkeley Law. Як цей досвід сформував ваші погляди та що надихнуло вас написати Corporate Ordering?

Я почав кар’єру з практики корпоративного права в Європі, а потім багато років у Берклі досліджував корпоративне управління та фінансове регулювання, зокрема те, як правила поширюються через кордони, коли жоден окремий уряд не керує цим процесом. Ми схильні вважати діловий світ і світ регулювання протилежностями: перший прагне швидких рішень і великих прибутків, а другий відданий бюрократичним процедурам і суспільному благу. І практика, і дослідження навчили мене, що межа між ними набагато розмитіша.

Книжка постала з розмов із генеральними юрисконсультами та керівниками вищої ланки про те, як вони дають раду суперечливим рішенням — тим, щодо яких працівники, клієнти, громади й уряди мають різні очікування. Мене вразило, наскільки їхні методи подібні до методів ефективного регулятора. Вони збирають інформацію, звертаючись до тих, кого це стосується, публічно пояснюють свій вибір і створюють механізми перевірки того, чи витримують ці рішення випробування. Це не звички регуляторів і не звички корпорацій. Це принципи виваженого ухвалення рішень у будь-якій установі, що має владу над іншими. У Corporate Ordering я намагаюся описати цей механізм, показати, де він працює, а де дає збій.

Що таке «корпоративне впорядкування» і як це поняття допомагає пояснити, яким чином компанії, що працюють у сфері ШІ, встановлюють правила для технологій, за якими регулювання ще не встигає?

Корпоративне впорядкування — це внутрішня інфраструктура управління, яку компанії створюють, щоб ухвалювати спірні рішення ще до того, як закон визначить, як їм діяти. Вона охоплює три функції, що відповідають гілкам державної влади. Нормотворчість — це спосіб, у який компанія формулює власні принципи. Виконавча діяльність — спосіб застосування цих принципів до конкретних рішень. Моніторинг — це перевірка того, чи виконала компанія взяті на себе зобов’язання, і виявлення випадків, коли цього не сталося.

У компаніях, що працюють у сфері ШІ, можна побачити всі три функції. Передові лабораторії розробляють конституції, специфікації моделей і рамкові документи з безпеки — це нормотворчість. Вони вирішують, чи готова модель до запуску, від яких запитів вона відмовлятиметься і хто матиме до неї доступ, — це виконавча діяльність. А ще вони замовляють тестування методом red teaming, зовнішні оцінювання та звітування про інциденти — це моніторинг. У книжці я простежую, як ці функції реалізуються в провідних лабораторіях. Відмінності між ними реальні, але так само помітне й зближення: кожна компанія усвідомлює, навіщо їй потрібен кожен із цих елементів.

Хочу наголосити на одному моменті, бо його часто неправильно розуміють. Корпоративне впорядкування — це не аргумент проти регулювання. Воно описує матеріал, на основі якого формуватиметься регулювання. Коли законодавці починають діяти, вони запозичують поняття, які компанії розробили раніше. Справжнє питання полягає в тому, чи було це перше формулювання достатньо ретельним, щоб його варто було запозичувати.

У своїй книжці ви розглядаєте сервіси спільних поїздок, кліматичну сталість і управління ШІ. Які уроки з перших двох сфер найкорисніші для ШІ, а які принципово інші виклики постають у цій галузі?

Урок із досвіду сервісів спільних поїздок і кліматичної сфери полягає в тому, що корпорації дуже часто першими формулюють майбутні закони. Uber і Lyft запровадили практики страхування та звітування про безпеку ще до того, як штати встановили відповідні правила, а значна частина корпоративного обліку викидів вуглецю спирається на GHG Protocol — стандарт, до розроблення якого долучився бізнес. Згодом регулятори схвалювали ці практики, доповнювали їх або закріплювали в законодавстві. Регулювання рідко починається з чистого аркуша. І що ретельніше компанії підходять до своїх рішень і що більше враховують інтереси тих, кого вони стосуються, то ймовірніше, що ці рішення збережуться в регулюванні.

ШІ відрізняється у двох аспектах. Перший — швидкість. Регулятори часто відстають від галузі на крок, але у сфері ШІ розрив набагато більший. Регуляторам доведеться покладатися на компанії в розробленні стандартів і внутрішніх процедур, а власні зусилля зосередити на нагляді, перевірці та забезпеченні дотримання вимог. Це змінює їхню роль, але не робить її менш важливою. Саме під час перевірки значення державної влади найбільше, адже тут конфлікт інтересів із керівництвом найгостріший. Друга відмінність — масштаб охоплення. ШІ впливає майже на всі сфери повсякденного життя й став одним із головних напрямів інвестування для країни загалом. Наслідки для системних ризиків так само важко не помітити, як і осягнути.

Якщо компанія, що працює у сфері ШІ, сама обирає й оплачує зовнішніх оцінювачів безпеки, які запобіжники забезпечать реальну незалежність такого нагляду?

Цей конфлікт інтересів добре знайомий у сфері фінансового аудиту, і корпоративне право вже має інструменти для його врегулювання. Перше питання — хто наймає та звільняє. Взаємодія з оцінювачем має бути під наглядом незалежних директорів, які не мають інших фінансових зв’язків із компанією, так само як комітет з аудиту, а не генеральний чи фінансовий директор, контролює зовнішнього аудитора. Керівництво не повинно мати змоги звільнити перевіряльника, якщо його висновки виявляться незручними.

Друге питання — доступ до інформації та публікація результатів. Оцінювач повинен мати змогу побачити все, що вважає за потрібне, а також право опублікувати свої висновки або принаймні змістовний виклад без права вето з боку компанії. Саме репутаційні ризики надають перевірці реальної сили. Третє — спільні стандарти перевірки, щоб оцінювання мало однакове значення в різних компаніях, а оцінювачі не могли конкурувати між собою, поблажливо ставлячись до порушень. Четверте — захист викривачів і навіть винагороди, коли вони надають інформацію, що дає змогу вжити заходів, адже працівники компанії часто першими дізнаються, що на перебіг оцінювання впливали.

Припустімо, зовнішній оцінювач виявив серйозну проблему з безпекою незадовго до масштабного запуску моделі. Хто має отримати цей висновок і хто повинен мати повноваження відкласти або зупинити розгортання?

Висновок слід передати безпосередньо раді директорів, бажано — комітету незалежних директорів, відповідальному за безпеку, а не лише керівній команді, яка наполягає на запуску. Керівництво може й повинно надати відповідь, але не має бути посередником. Повноваження відкласти або зупинити розгортання мають належати раді директорів, адже саме для ухвалення таких рішень вона й існує: це рішення з високими ставками, конфліктом інтересів і без очевидно правильної відповіді.

Але важливіше те, що рішення має бути чітко сформульоване й задокументоване, а також має бути зрозуміло, хто саме його ухвалив. Якщо рада директорів вирішить продовжити роботу, попри занепокоєння, у документах слід зафіксувати, що їй було відомо, які чинники вона зважила і чому визнала ризик прийнятним. Такий документальний слід створює підстави для притягнення до відповідальності або принаймні для репутаційної шкоди й змушує людей двічі подумати. Суди дедалі охочіше визнають, що рішення щодо дизайну програмного забезпечення мають наслідки для користувачів, і компанія, яка може довести, що доклала серйозних і задокументованих зусиль, опиняється в зовсім іншому становищі, ніж та, яка цього довести не може.

Яким має бути надійний процес ухвалення рішень радою директорів, коли міркування безпеки суперечать планам щодо доходів або конкурентному тиску?

Надійний процес ґрунтується на повній інформації, і після нього залишається документальний слід. Рада директорів має отримати конкретні дані про витрати, пов’язані із затримкою, характер і ймовірність проблеми з безпекою, а також варіанти її пом’якшення. Вона має з’ясувати, чи було тестування достатнім, а якщо ні — призначити додаткове тестування або запросити зовнішню оцінку. Якщо залишається реальна невизначеність, є проміжні варіанти між запуском і відмовою від нього: наприклад, обмежений випуск, поетапне розгортання або тестове середовище, які дадуть компанії змогу дізнатися більше, перш ніж брати на себе зобов’язання. І незалежно від рішення ради директорів публічні заяви компанії про безпеку моделі мають бути точними — саме в цьому полягає значна частина нинішнього ризику судових позовів.

Після цього рада директорів має письмово зафіксувати, що саме вона вирішила і чому. З часом такі записи утворюють сукупність прецедентів: кожне наступне складне рішення можна буде зіставити з попереднім, а всі, хто перевірятиме компанію, зможуть побачити, чи справді її задекларовані принципи зобов’язують її до певних дій. Microsoft уже почала створювати такі записи про ухвалення рішень, і, на мою думку, це один із найбільш недооцінених інструментів управління ШІ. Конкурентний тиск — реальність, і рада директорів може обґрунтовано вирішити рухатися далі. Але вона не може просто ухвалити рішення за замовчуванням.

У своїй праці ви пропонуєте стандарт «соціального ділового судження» для оцінювання рішень ради директорів. Як його можна застосувати до компанії, що розробляє ШІ й відкладає прибутковий запуск продукту через потенційну шкоду для суспільства?

За чинним корпоративним правом рада директорів, яка відкладає прибутковий запуск, уже має надійний захист. Суди покладаються на ділове судження директорів, і рішення сьогодні погодитися на менший прибуток, щоб уникнути шкоди завтра, цілком відповідає цьому принципу. Складніше питання полягає в протилежному: чи поставила рада директорів проблему суспільної шкоди взагалі достатньо серйозно?

Стандарт соціального ділового судження вимагає, щоб рада директорів оцінювала потенційну шкоду для суспільства так само, як і будь-який інший бізнес-ризик, — за допомогою конкретних, вимірюваних і предметних показників, де це можливо. Головна увага приділяється процесу й належній обачності, а не результату. Рада директорів, яка зібрала потрібну інформацію, вислухала тих, кого це стосується, і зафіксувала свої міркування, заслуговує на те, щоб її рішенню довіряли, незалежно від того, відклала вона запуск чи продовжила його. Рада, яка нічого цього не зробила, — ні. Отже, у наведеному вами випадку проблема не в самому відкладенні запуску. Питання в тому, чи може рада пояснити, як саме дійшла такого рішення і чи ухвалила б його знову за тих самих обставин.

Компанії, що розробляють ШІ, публікують рамкові документи з безпеки та добровільні зобов’язання, але читачі рідко бачать, як ці правила впливають на окремі рішення. Які докази дали б змогу відрізнити ефективне управління від піару?

Дуже часто, коли компанії оприлюднюють рамкові документи, громадськість залишається гадати, чи застосовують їх до конкретних рішень, чи вони так і лишаються риторикою, якої компанія не втілює на практиці. Відповідь — оприлюднення інформації особливого роду. Замість нових заяв про принципи компаніям слід повідомляти, які саме рішення вони ухвалили і як на них вплинули ці рамкові документи, які запуски відклали, які можливості не стали надавати, які порогові значення ризику було перевищено і що сталося далі.

Найпереконливіше свідчення — рішення, яке чогось коштувало компанії. Рамковий документ, який ніколи не змінював результатів, не призводив до відкладення запуску й жодного разу не застосовувався всупереч інтересам доходів компанії, важко відрізнити від піару. Ці розкриття інформації також мають бути достатньо конкретними, щоб їх можна було перевірити, а найважливіші питання має перевіряти третя сторона, уповноважена публічно заявити про результати такої перевірки.

Де проходять межі корпоративного саморегулювання? Які рішення щодо прийнятного рівня ризику, пов’язаного зі штучним інтелектом, потребують публічних правил або демократичного нагляду?

Найважливіше обмеження пов’язане з тим, що порушення залишаються непоміченими. Навіть добросовісна й відповідальна компанія може зіткнутися з серйозною кризою, і в такий момент конфліктів інтересів стає більше. Працівники можуть приховувати інформацію, яка зашкодила б їхній роботі чи преміям. Керівники можуть замовчувати погані новини, щоб уникнути публічної критики. Страх судових позовів може завадити компанії бути відвертою. Під час попередніх корпоративних криз вирішальна інформація зазвичай надходила від тих, кого керівництво не могло контролювати: зовнішніх аудиторів і експертів, постраждалих сторін або внутрішніх викривачів, які користувалися незалежними каналами повідомлення.

Саме тут публічні правила мають найбільше значення. На етапі розроблення правил закон може додати порівняно небагато, адже закони зазвичай запозичують основні поняття у компаній. Більше він може зробити для забезпечення прозорості, поширивши вимоги на компанії, які не бажають добровільно розкривати інформацію. А найбільший внесок закон може зробити в перевірку, вимагаючи незалежного аудиту, захищаючи викривачів і надаючи зовнішньому контролю реальні повноваження.

Інше обмеження має колективний характер. Окрема компанія може лише зупинити саму себе. Вона не може зупинити своїх конкурентів. Рішення щодо катастрофічного ризику, зокрема про те, чи слід сповільнити розвиток передових технологій, потребують координації між компаніями й урядами — як у своїй країні, так і на міжнародному рівні. Однією з перспективних моделей я вважаю міжнародний орган зі встановлення стандартів на кшталт ISSB у сфері звітності зі сталого розвитку: незалежний від урядів, але під наглядом опікунів, до складу яких входять і представники урядів. Корпоративне впорядкування необхідне для цієї роботи, адже приборкання таких моделей відбувається всередині компаній, які їх створюють, але самотужки впоратися з цим завданням воно не може.

Якби сьогодні ви консультували раду директорів швидкозростальної компанії у сфері штучного інтелекту, які три зміни в корпоративному управлінні ви поставили б у пріоритет і яких свідчень шукали б через рік, щоб визначити, чи дали вони результат?

По-перше, залучення зацікавлених сторін до розроблення правил. Перш ніж ухвалювати або переглядати рамковий документ із безпеки чи правила використання, компанії слід проконсультуватися з тими, кого це стосується (користувачами, громадянським суспільством, фахівцями у відповідних галузях), а також оприлюднити, що вона почула і як на це відреагувала. По-друге, регулярна звітність про відповідальність — щорічний звіт про складні рішення, ухвалені радою директорів і керівництвом у межах цього рамкового документа, з достатньою кількістю деталей для перевірки. По-третє, зовнішній наглядач, якого наймають незалежні директори й якому вони підпорядковуються, з повним доступом до інформації та правом оприлюднювати результати.

Через рік я шукав би свідчень того, що кожен із цих заходів справді подіяв. Щодо залучення — принаймні одне правило, змінене з огляду на почуте компанією. Щодо звітності — розкриті рішення, про які компанія воліла б не говорити, зокрема ті, що коштували їй доходів або часу. Щодо наглядача — висновки, які компанії були небажані, і звіт про те, як на них відреагувала рада директорів. Якщо за рік у звітності будуть лише хороші новини, ці зміни не спрацювали.

Дякую за чудове інтерв’ю! Читачам, які хочуть дізнатися більше про книжку та варіанти її придбання, варто відвідати офіційний сайт, присвячений «Корпоративному впорядкуванню».

Антуан — далекоглядний лідер і партнер-засновник Unite.AI, якого надихає незмінна пристрасть до формування та просування майбутнього штучного інтелекту й робототехніки. Як підприємець, що заснував кілька компаній, він вірить, що ШІ змінить суспільство так само докорінно, як електрика, і часто із захопленням говорить про потенціал проривних технологій та загального штучного інтелекту (AGI).

Як футуролог, він присвячує себе дослідженню того, як ці інновації формуватимуть наш світ. Він також є засновником Securities.io — платформи, зосередженої на інвестиціях у передові технології, що переосмислюють майбутнє та змінюють цілі галузі.