访谈
Stavros Gadinis、伯克利法学院教授及《企业秩序》一书作者——访谈系列

要点企业自律描述的是公司在监管机构行动之前如何制定规则并进行自我监督。
查看更多
- 企业自律描述的是公司在监管机构行动之前如何制定规则并进行自我监督。
- 当管理层能够聘用并解雇自己的外部审查人员时,人工智能安全评估就缺乏独立性。
- 一个从未推迟过发布的安全框架与公共关系无异。
Stavros Gadinis是加州大学伯克利分校法学院George R. Johnson法学教授。他的研究探讨公司治理、金融监管,以及企业用来制定和监督决策的内部系统。在进入学术界之前,他曾在欧洲从事公司法实务。
他的新书《企业秩序:企业如何应对社会冲突》由Cambridge University Press出版,探讨公共规则尚未明朗时,企业如何建立治理体系。通过涉及网约车、气候可持续发展和人工智能的案例,本书考察企业如何制定规则、行使权力并监督自身行为。
您的职业经历涵盖在欧洲从事公司法实务,以及在伯克利法学院研究公司治理和金融监管。这些经历如何塑造了您的思考?又是什么促使您写作《企业秩序》?
我最初在欧洲从事公司法实务,之后在伯克利多年研究公司治理和金融监管,包括在没有任何单一政府主导的情况下,规则如何跨境传播。我们往往认为商业世界与监管世界截然相反:前者追求快速决策和丰厚利润,后者则致力于官僚程序和公共利益。无论是实务工作还是研究,都让我认识到,两者之间的界线远没有那么分明。
这本书源于我与总法律顾问和高管们的交流,探讨他们如何处理存在争议的决策——员工、客户、社区和政府各有不同诉求的那些决策。令我印象深刻的是,他们的方法与优秀监管机构的做法非常相似。他们会主动联系受影响的人士来收集信息,公开解释自己的选择,并建立机制来检验这些选择是否经得起考验。这些既不是监管领域独有的做法,也不是企业特有的习惯,而是任何行使权力、影响他人的机构都应遵循的健全决策原则。《企业秩序》试图描述这套机制,展示它在哪些地方发挥作用,又在哪些地方失灵。
什么是“企业秩序建构”?它如何帮助我们理解人工智能公司为那些监管尚未跟上的技术制定规则的方式?
企业秩序建构是企业建立的内部治理基础设施,使其能够在法律规定应如何行事之前,对有争议的问题作出决策。它有三项职能,与国家的三权相对应。规则制定,是企业为自己确立原则;行政执行,是企业将这些原则应用于具体决策;监督,则是检查企业是否落实了这些原则,并在未能落实时查明情况。
人工智能公司展示了这三项职能如何发挥作用。前沿实验室制定宪章、模型规范和安全框架,这属于规则制定。它们决定模型是否已准备好发布、模型会拒绝什么请求,以及谁可以使用模型,这属于行政执行。它们还会委托开展红队测试、外部评估和事件报告,这属于监督。在书中,我梳理了各大实验室在这三项职能上的做法。它们之间确有差异,但也存在一个显著的趋同现象:每家公司都逐渐认识到,自己为何需要这套机制的每个环节。
有一点我想明确说明,因为人们常常误解这一点:企业秩序建构并不是反对监管的论述。它描述的是监管将以什么为基础。当立法者采取行动时,他们会借鉴企业率先提出的理念。真正的问题在于,这份初稿写得是否足够审慎,是否值得借鉴。
您的书探讨了网约车、气候可持续发展和人工智能治理。前两个领域的哪些经验对人工智能最有借鉴意义?人工智能又面临哪些根本不同的挑战?
网约车和气候领域带来的启示是,企业往往会率先起草法律规则。在各州出台相关规定之前,Uber和Lyft就制定了保险和安全报告做法;企业碳核算也在很大程度上依据GHG Protocol这一由商界参与制定的标准。监管机构随后认可、补充了这些做法,或将其写入法律。监管很少从一张白纸起步。企业在作出选择时考虑得越周全、越顾及受影响各方,这些选择就越有可能最终成为监管规则的一部分。
人工智能有两方面不同。第一是速度。监管机构往往落后于行业一步,但在人工智能领域,这一差距要大得多。监管机构必须借助企业制定标准和内部流程,并将自身工作重点放在监督、核验和执法上。这意味着监管机构的角色有所不同,而不是变得不那么重要。核验是公共权力最为关键的领域,因为在这里,监管机构与企业管理层之间的利益冲突最为突出。第二是影响范围。人工智能几乎触及日常生活的方方面面,对整个国家而言也已成为一项重大投资。其系统性风险的影响既不容忽视,也难以估量。
当人工智能公司选择并付费聘请自己的外部安全评估人员时,需要采取哪些保障措施,才能确保监督真正独立?
这种利益冲突在财务审计中并不陌生,公司法早已有办法应对。首先要明确由谁聘用和解聘评估人员。与评估人员的关系应由与公司没有其他财务利益往来的独立董事负责,就像外部审计由审计委员会而非首席执行官或首席财务官监督一样。管理层不应有权解聘那些评估结果令其不便的审查人员。
其次是信息获取与结果发布。评估人员需要能够查阅其要求查阅的内容,并有权发布评估结果,至少也应能发布有实质内容的摘要,且公司无权否决。声誉风险正是让审查发挥约束作用的关键。第三是采用统一的审查标准,确保不同公司接受的评估含义一致,也防止评估人员为了争取业务而放宽标准。第四是保护举报人;如果他们提供了可采取行动的信息,甚至应给予奖励,因为公司内部人员往往最先发现评估受到操纵。
假设一家外部评估机构在某个重大模型即将发布前发现了严重的安全隐患。评估结果应交由谁处理?谁应有权推迟或叫停部署?
评估结果应直接提交董事会,最好交由负责安全事务的独立董事委员会处理,而不应只经由推动产品发布的管理团队转交。管理层可以、也应当作出回应,但不应成为信息过滤关口。推迟或叫停部署的权力应归董事会,因为这正是董事会应当作出的决策:利害重大、利益相互冲突,而且没有显而易见的正确答案。
但更重要的是,决策必须明确作出并形成书面记录,而且能够追溯到作出决策的人。如果董事会不顾安全隐患仍决定继续推进,记录就应说明董事会掌握了哪些信息、权衡了哪些因素,以及为何认定风险可以接受。这些书面记录为追究责任创造条件,或者至少会造成声誉损害,也会让人三思而后行。法院越来越愿意承认,软件设计选择会对用户造成后果;能够证明自己认真采取了行动并留下完整记录的公司,与做不到这一点的公司处境截然不同。
当安全隐患与营收目标或竞争压力发生冲突时,可信的董事会决策流程应当是什么样的?
可信的流程应以充分知情为基础,并留下记录。董事会应看到具体信息,包括延迟发布的成本、安全隐患的性质及发生可能性,以及可采取哪些措施来降低风险。董事会应询问测试是否充分;如果测试不充分,就应安排更多测试或邀请外部机构审查。如果仍存在实质性的不确定性,公司并非只有发布或搁置两种选择,还可以采取有限发布、分阶段推出或沙盒测试等方式,在作出承诺之前进一步了解情况。无论董事会作出什么决定,公司随后对外发布的模型安全信息都必须准确,而这正是当前许多诉讼风险的来源。
之后,董事会应记录自己作出的决定及其理由。随着时间推移,这些记录会逐渐形成一套先例,让下一个棘手决策能够参照上一个决策来衡量,也让审视公司的人看清,公司宣称的原则是否真的具有约束力。Microsoft 已开始建立这类决策记录,我认为这是人工智能治理中最被低估的工具之一。竞争压力确实存在,董事会也可能有充分理由决定继续推进。但它不能听任事情在没有明确决定的情况下发生。
您提出以“社会商业判断”标准来评估董事会决策。对于一家因产品可能危害公众而推迟一项有利可图的产品发布的人工智能公司,这一标准应如何适用?
按照现行公司法,推迟有利可图的产品发布的董事会已经受到充分保护。法院会尊重董事的商业判断;接受眼前较低的利润以避免未来造成伤害,完全属于商业判断的合理范围。更棘手的问题恰恰相反:董事会是否认真对待了公共危害。
社会商业判断要求董事会像评估其他商业风险一样评估潜在的公共危害,并尽可能采用具体、可衡量且明确的指标。重点在于决策流程和尽职调查,而非最终结果。无论董事会决定推迟发布还是继续推进,只要它获取了恰当的信息、听取了受影响者的意见并记录了推理过程,就理应得到尊重;如果这些都没有做到,就不应如此。在您描述的情形中,问题不在于推迟发布本身,而在于董事会能否说明自己如何作出这一决定,以及在事实相同的情况下是否会再次作出同样的决定。
人工智能公司会发布安全框架并作出自愿承诺,但读者很少能看到这些政策如何影响具体决策。什么证据能够区分有效治理与公关作秀?
公司发布框架后,公众往往不禁疑惑:这些框架究竟会不会真正用于具体决策,还是只停留在口头上,公司从未付诸实践?答案是进行特定类型的信息披露。公司不应再发表更多原则性声明,而应报告自己作出的具体选择、框架如何影响这些选择、哪些产品发布被推迟、哪些能力暂缓推出、哪些风险阈值被触发,以及随后采取了什么行动。
最能说明问题的证据,是一项让公司付出代价的决策。如果一个框架从未改变过任何结果、从未推迟过产品发布,也从未在营收利益受到影响时被援引,那么它就很难与公关宣传区分开来。这些披露还必须具体到足以接受核实;对于影响最重大的问题,应由有公信力、能够公开证实相关情况的第三方进行核查。
企业自我治理的边界在哪里?哪些关于可接受人工智能风险的决策需要公共规则或民主监督?
最重要的局限在于监督失灵。即便是一家本意良好、负责任的公司,也可能遭遇重大危机;而在那一刻,利益冲突会不断加剧。员工可能隐瞒会危及自己工作或奖金的信息。高管可能压下坏消息,以免受到公众批评。对诉讼的担忧也可能使公司不愿坦诚。过去的企业危机中,关键的信息通常来自管理层无法控制的人、外部审计人员和审查人员、受影响的各方,或通过独立举报渠道发声的内部举报者。
公共规则在这一领域最为重要。在制定规则阶段,法律能发挥的作用相对有限,因为法规往往借用企业提出的关键概念。在信息披露方面,法律可以发挥更大作用,要求那些不愿自愿披露信息的企业进行披露。而在核查方面,法律的作用最大:它可以要求开展独立审查、保护举报者,并赋予外部监督真正的权力。
另一个局限是集体行动方面的。单个公司最多只能约束自己,却无法约束竞争对手。关于灾难性风险的决策,包括是否放慢前沿发展,都需要企业和政府在国内及国际层面开展协调。我认为,一个值得探索的模式是参照可持续发展报告领域的 ISSB,设立一个独立于各国政府、但由包括政府代表在内的受托人监督的国际标准制定机构。这项工作离不开企业秩序,因为要管控这些模型,就必须在开发它们的公司内部采取行动;但这项工作不能仅靠企业独力完成。
如果你现在要为一家快速发展的人工智能公司董事会提供建议,你会优先推动哪三项治理改革?一年后,你会寻找哪些证据来判断它们是否奏效?
第一,在制定规则时开展意见征询。在采纳或修订安全框架或使用政策之前,公司应征询受影响者(用户、民间社会和领域专家)的意见,并公布听取了哪些意见以及如何作出回应。第二,定期发布责任报告,每年说明董事会和管理层依据该框架作出的艰难决策,并提供足够细节以供核查。第三,聘请一名外部监督员,由独立董事聘用并向其汇报;监督员应拥有全面的查阅权限和公开发布调查结果的权利。
一年后,我会寻找证据,确认这三项措施是否都真正发挥了作用。就意见征询而言,至少要有一项规则因公司听取的意见而发生改变。就报告而言,公司披露的决策中应包括那些它宁愿不公开讨论的决定,包括让公司损失营收或时间的决定。就监督员而言,应有公司不愿看到的调查发现,并有记录显示董事会对此采取了什么行动。如果一年后公布的内容全是好消息,这些改革就没有奏效。
感谢您接受这次精彩的访谈。希望进一步了解这本书并查询购买方式的读者,请访问《企业秩序》的官方网站。












