Интервью
Ставрос Гадинис, профессор права в Berkeley Law и автор книги «Корпоративное упорядочение» — серия интервью

Ключевые моментыКорпоративное нормотворчество описывает, как фирмы пишут правила и контролируют себя до…
Показать больше
- Корпоративное нормотворчество описывает, как фирмы пишут правила и контролируют себя до того, как действуют регуляторы.
- Оценки безопасности ИИ лишены независимости, когда руководство нанимает и может уволить собственных внешних проверяющих.
- Система безопасности, которая ни разу не задержала запуск, неотличима от связей с общественностью.
Ставрос Гадинис — профессор права имени Джорджа Р. Джонсона в Школе права Калифорнийского университета в Беркли. В своих исследованиях он изучает корпоративное управление, финансовое регулирование и внутренние системы, с помощью которых компании принимают решения и контролируют их исполнение. До начала академической карьеры он занимался корпоративным правом в Европе.
В своей новой книге «Корпоративное упорядочение: как корпорации справляются с социальными конфликтами», опубликованной Cambridge University Press, он исследует, как компании создают системы управления в условиях, когда правила, установленные государством, ещё не определены. На примере совместных поездок, климатической устойчивости и искусственного интеллекта автор рассматривает, как компании устанавливают правила, осуществляют власть и контролируют собственную деятельность.
Ваша карьера связана и с практикой корпоративного права в Европе, и с исследованиями корпоративного управления и финансового регулирования в Berkeley Law. Как этот опыт повлиял на ваше мышление и что побудило вас написать книгу «Корпоративное упорядочение»?
Я начал карьеру с практики корпоративного права в Европе, а затем много лет изучал в Беркли корпоративное управление и финансовое регулирование, в том числе распространение правил за пределы границ, когда ни одно правительство не несёт за это единоличной ответственности. Мы склонны считать деловой мир и мир регулирования противоположностями: первый стремится к быстрым решениям и большой прибыли, второй привержен бюрократическим процедурам и общественному благу. И практика, и исследования показали мне, что граница между ними гораздо менее чёткая.
Книга выросла из бесед с главными юрисконсультами и руководителями высшего звена о том, как они принимают спорные решения — те, в которых сотрудники, клиенты, местные сообщества и государственные органы хотят разного. Меня поразило, насколько их методы напоминают методы хорошего регулятора. Они собирают информацию, обращаясь к тем, кого затрагивают их решения, открыто объясняют свой выбор и создают механизмы, позволяющие проверить, выдержат ли эти решения проверку временем. Это не исключительно привычки регуляторов или компаний. Это принципы принятия взвешенных решений в любом учреждении, обладающем властью над другими. В книге «Корпоративное упорядочение» я пытаюсь описать этот механизм, показать, где он работает, а где даёт сбой.
Что такое «корпоративное упорядочение» и как это понятие помогает понять, каким образом компании в сфере ИИ устанавливают правила для технологий, за которыми регулирование пока не поспевает?
Корпоративное упорядочение — это внутренняя инфраструктура управления, которую компании создают, чтобы принимать спорные решения до того, как закон укажет им, как поступать. В ней есть три функции, соответствующие ветвям государственной власти. Нормотворчество — это разработка компанией собственных принципов. Исполнительная деятельность — их применение при принятии конкретных решений. Контроль — проверка того, выполнены ли принятые обязательства, и выяснение причин, если этого не произошло.
В компаниях, разрабатывающих ИИ, представлены все три функции. Передовые лаборатории пишут уставы, спецификации моделей и рамочные документы по безопасности — это нормотворчество. Они решают, готова ли модель к запуску, от каких запросов она будет отказываться и кто получит к ней доступ, — это исполнительная деятельность. Кроме того, они заказывают тестирование методом red team, внешние оценки и подготовку отчётов об инцидентах — это контроль. В книге я прослеживаю, как эти функции реализованы в крупнейших лабораториях. Различия между ними реальны, но заметно и сближение: каждая компания понимает, зачем ей нужен каждый из этих элементов.
Я хочу прояснить один момент, который часто понимают неправильно: корпоративное упорядочение — это не аргумент против регулирования. Оно описывает материал, из которого будет складываться регулирование. Когда законодатели принимают меры, они заимствуют понятия, которые компании разработали раньше. Главный вопрос в том, был ли этот первый вариант составлен достаточно тщательно, чтобы его стоило заимствовать.
В своей книге вы рассматриваете совместные поездки, климатическую устойчивость и управление ИИ. Какие уроки из первых двух областей наиболее полезны для ИИ и с какими принципиально иными вызовами сталкивается эта сфера?
Урок, который можно извлечь из совместных поездок и климатической сферы, состоит в том, что корпорации очень часто пишут первый вариант закона. Uber и Lyft разработали практики страхования и отчётности по безопасности ещё до того, как штаты приняли соответствующие правила, а значительная часть корпоративного учёта выбросов углерода ведётся по Протоколу по парниковым газам (GHG Protocol) — стандарту, в разработке которого участвовал бизнес. Затем регуляторы одобряли эти практики, дополняли их или закрепляли в законе. Регулирование редко начинается с чистого листа. Чем тщательнее компании подходят к своим решениям и чем больше учитывают интересы затронутых ими сторон, тем вероятнее, что эти решения сохранятся и в регулировании.
ИИ отличается в двух отношениях. Первое — скорость. Регуляторы часто отстают от отрасли на один шаг, но в сфере ИИ разрыв намного больше. Регуляторам придётся опираться на компании при разработке стандартов и внутренних процессов, сосредоточив собственные усилия на надзоре, проверке и обеспечении соблюдения требований. Это меняет их роль, но не уменьшает её значимость. Проверка особенно важна как сфера применения государственной власти, поскольку именно здесь конфликт интересов с руководством наиболее острый. Второе отличие — охват. ИИ затрагивает почти все стороны повседневной жизни и стал крупным объектом инвестиций для всей страны. Последствия для системных рисков невозможно не заметить, но столь же трудно постичь.
Если компания, разрабатывающая ИИ, сама выбирает и оплачивает внешних специалистов по оценке безопасности, какие меры защиты позволят обеспечить подлинную независимость такого надзора?
Этот конфликт интересов хорошо знаком в сфере финансового аудита, и в корпоративном праве уже есть инструменты для его урегулирования. Первый вопрос — кто нанимает и увольняет проверяющего. Отношения с ним должны курировать независимые директора, не связанные с компанией иными финансовыми интересами, подобно тому как внешний аудит контролирует комитет по аудиту, а не генеральный или финансовый директор. Руководство не должно иметь возможности уволить проверяющего из-за неудобных выводов.
Второй вопрос — доступ к информации и публикация результатов. Проверяющий должен иметь возможность изучать всё, что считает необходимым, и право публиковать свои выводы или хотя бы содержательное резюме без права вето со стороны компании. Именно репутационный риск придаёт проверке вес. Третий вопрос — единые стандарты проверки, чтобы оценки разных компаний были сопоставимы и проверяющие не могли конкурировать друг с другом, проявляя снисходительность. Четвёртый — защита информаторов и даже вознаграждение за сведения, позволяющие принять меры, поскольку сотрудники компании часто первыми узнают, что ход проверки направляли в чьих-то интересах.
Предположим, что незадолго до крупного запуска модели внешний проверяющий выявляет серьёзную проблему с безопасностью. Кому следует сообщить об этом и кто должен иметь полномочия отложить или остановить внедрение?
О выводах следует сообщить напрямую совету директоров, в идеале — комитету независимых директоров, отвечающему за безопасность, а не только руководящей команде, добивающейся запуска. Руководство может и должно представить ответ, но не должно выступать посредником. Полномочия отложить или остановить внедрение должны принадлежать совету директоров, поскольку именно для принятия таких решений он и существует: они сопряжены с высокими ставками, конфликтующими интересами и отсутствием очевидного правильного ответа.
Но важнее всего то, что решение должно быть чётко сформулировано, задокументировано и привязано к конкретным людям, которые его приняли. Если совет директоров решит продолжить работу вопреки высказанным опасениям, в документах должно быть указано, что ему было известно, какие факторы он взвесил и почему счёл риск приемлемым. Такая документальная история создаёт основания для привлечения к ответственности или, по крайней мере, репутационного ущерба, и заставляет людей дважды подумать. Суды всё чаще признают, что решения о проектировании программного обеспечения сказываются на пользователях, а компания, способная продемонстрировать серьёзную и документально подтверждённую работу в этом направлении, находится в совершенно ином положении, чем компания, которой нечего предъявить.
Как должен выглядеть заслуживающий доверия процесс принятия решений советом директоров, когда вопросы безопасности вступают в противоречие с целевыми показателями выручки или конкурентным давлением?
Заслуживающий доверия процесс основывается на полной информации и оставляет документальный след. Совет директоров должен располагать конкретными сведениями о цене задержки, характере и вероятности проблемы с безопасностью, а также о способах её устранения. Ему следует выяснить, достаточно ли было проведено испытаний, и, если нет, назначить дополнительные или привлечь внешних проверяющих. Если сохраняется реальная неопределённость, есть промежуточные варианты между запуском и отказом от него: например, ограниченный выпуск, поэтапное внедрение или испытание в изолированной среде. Они позволят компании получить больше информации, прежде чем принимать окончательное решение. Какое бы решение ни принял совет директоров, публичные заявления компании о безопасности модели должны быть точными — именно здесь сегодня кроется значительная часть риска судебных разбирательств.
Затем совет директоров должен письменно зафиксировать своё решение и его причины. Со временем такие записи складываются в свод прецедентов: каждое новое сложное решение можно сопоставить с предыдущими, а любой, кто проверяет деятельность компании, может понять, действительно ли она руководствуется заявленными принципами. Microsoft уже начала формировать такой архив решений, и, на мой взгляд, это один из самых недооценённых инструментов управления ИИ. Конкурентное давление — реальность, и совет директоров может обоснованно решить продолжить работу. Но нельзя принимать решение по умолчанию.
В своей работе вы предлагаете применять стандарт «социального делового суждения» для оценки решений советов директоров. Как он применим к компании в сфере ИИ, которая откладывает прибыльный запуск продукта из-за потенциального вреда для общества?
Согласно действующему корпоративному праву, совет директоров, откладывающий прибыльный запуск, уже надёжно защищён. Суды уважают деловые решения директоров, и готовность сегодня согласиться на меньшую прибыль, чтобы избежать вреда в будущем, вполне соответствует этому принципу. Сложнее обратный вопрос: отнёсся ли совет директоров к возможному вреду для общества достаточно серьёзно.
Стандарт социального делового суждения предполагает, что совет директоров оценивает возможный вред для общества так же, как любой другой деловой риск, по возможности используя конкретные, измеримые и предметные показатели. Главное здесь — процесс и должная осмотрительность, а не результат. Совет директоров, который собрал нужную информацию, выслушал тех, кого затрагивает решение, и зафиксировал свои доводы, заслуживает уважения к своему решению независимо от того, отложил ли он запуск или решил продолжить работу. Если он ничего из этого не сделал, оснований для такого уважения нет. Поэтому в описанной вами ситуации проблема не в самом решении отложить запуск. Важно, может ли совет директоров объяснить, как он к нему пришёл, и принял бы он такое же решение при тех же обстоятельствах.
Компании в сфере ИИ публикуют рамочные документы по безопасности и добровольные обязательства, но читатели редко видят, как эти правила влияют на конкретные решения. Какие доказательства позволили бы отличить эффективное управление от пиар-акции?
Нередко после публикации компаниями своих рамочных документов у общественности остаётся вопрос: применяются ли эти документы к конкретным решениям или так и остаются риторикой, за которой компания не следует на практике. Ответ — раскрытие информации особого рода. Вместо новых деклараций принципов компаниям следует сообщать, какие именно решения они приняли и как на них повлияли рамочные документы: какие запуски были отложены, какие возможности ограничены, какие пороговые значения риска достигнуты и к чему это привело.
Самое убедительное свидетельство — решение, которое чего-то стоило компании. Рамочный документ, который ни разу не повлиял на исход, не привёл к задержке запуска и ни разу не применялся в ущерб выручке, трудно отличить от пиар-акции. Раскрываемая информация должна быть достаточно конкретной, чтобы её можно было проверить; а самые важные вопросы должен проверять независимый эксперт, имеющий полномочия публично заявить об этом.
Где проходят границы саморегулирования компаний? Какие решения о допустимом риске, связанном с ИИ, требуют публичных правил или демократического надзора?
Важнейшее ограничение связано с неспособностью осуществлять надзор. Даже добросовестная и ответственная компания может столкнуться с серьёзным кризисом, и в такой момент конфликты интересов множатся. Сотрудники могут утаивать информацию, если она угрожает их работе или премиям. Руководители могут скрывать плохие новости, чтобы избежать общественной критики. Опасение судебных исков может помешать компании говорить открыто. В прошлых корпоративных кризисах важнейшие сведения обычно поступали от тех, кого руководство не могло контролировать: внешних аудиторов и проверяющих, затронутых кризисом лиц или внутренних информаторов, использовавших независимые каналы для сообщений о нарушениях.
Именно здесь публичные правила важнее всего. На этапе разработки правил закон может дать сравнительно немного, поскольку законодательство обычно заимствует ключевые понятия у компаний. В вопросе раскрытия информации закон может сделать больше, распространив требования на фирмы, которые не стали бы раскрывать её добровольно. А больше всего он может сделать для проверки, обязав проводить независимый аудит, защищая информаторов и наделяя внешние механизмы контроля реальными полномочиями.
Другое ограничение носит коллективный характер. Максимум, что может сделать отдельная компания, — остановить саму себя. Остановить конкурентов она не может. Решения о катастрофических рисках, в том числе о том, следует ли замедлить развитие передовых технологий, требуют координации между компаниями и правительствами как внутри страны, так и на международном уровне. Одной из перспективных моделей я считаю международный орган по разработке стандартов, подобный ISSB в сфере отчётности об устойчивом развитии: он был бы независим от правительств, но находился бы под надзором попечителей, в число которых входили бы и представители правительств. Корпоративное упорядочение необходимо для этой работы, поскольку усмирение таких моделей происходит внутри компаний, которые их создают, однако в одиночку оно не справится.
Если бы сегодня вы консультировали совет директоров быстрорастущей компании в сфере ИИ, какие три изменения в управлении вы бы поставили на первое место и каких свидетельств искали бы год спустя, чтобы определить, сработали ли они?
Во-первых, привлекать заинтересованные стороны к разработке правил. Прежде чем принимать или пересматривать рамочный документ по безопасности либо правила использования, компания должна консультироваться с теми, кого это затрагивает (пользователями, организациями гражданского общества, экспертами в соответствующих областях), а затем публиковать, какие мнения она услышала и как на них отреагировала. Во-вторых, регулярно отчитываться об ответственности: ежегодно рассказывать о непростых решениях, которые совет директоров и руководство приняли в рамках этих правил, и приводить достаточно подробностей, чтобы их можно было проверить. В-третьих, привлекать внешнего наблюдателя, которого нанимают независимые директора и которому они подотчётны; у него должен быть полный доступ к информации и право публиковать свои выводы.
Год спустя я искал бы свидетельства того, что каждое из этих изменений действительно повлияло на работу компании. Что касается консультаций, — как минимум одно правило, изменённое с учётом услышанного. Что касается отчётности, — раскрытые решения, о которых компания предпочла бы не рассказывать, в том числе решения, стоившие ей выручки или времени. Что касается наблюдателя, — выводы, которые компании не хотелось бы видеть, и сведения о том, что совет директоров предпринял в ответ. Если через год все опубликованные новости окажутся хорошими, значит, изменения не сработали.
Спасибо за прекрасное интервью! Читателям, которые хотят подробнее узнать о книге и вариантах её приобретения, следует посетить официальный сайт книги «Корпоративное упорядочение».












