Phỏng vấn
Stavros Gadinis, Giáo sư Luật tại Berkeley Law và tác giả cuốn Trật tự doanh nghiệp – Loạt bài phỏng vấn

Điểm chínhĐặt hàng của doanh nghiệp mô tả cách các công ty viết quy tắc và tự giám sát trước khi…
Xem thêm
- Đặt hàng của doanh nghiệp mô tả cách các công ty viết quy tắc và tự giám sát trước khi cơ quan quản lý hành động.
- Các đánh giá an toàn AI thiếu tính độc lập khi ban lãnh đạo tự tuyển và có thể sa thải chính các chuyên gia đánh giá bên ngoài của mình.
- Một khuôn khổ an toàn chưa từng trì hoãn một lần ra mắt nào thì không thể phân biệt với quan hệ công chúng.
Stavros Gadinis là Giáo sư Luật George R. Johnson tại UC Berkeley School of Law. Nghiên cứu của ông tập trung vào quản trị doanh nghiệp, quy định tài chính và các hệ thống nội bộ mà doanh nghiệp sử dụng để đưa ra và giám sát quyết định. Trước khi bước vào giới học thuật, ông hành nghề luật doanh nghiệp ở châu Âu.
Cuốn sách mới của ông, Trật tự doanh nghiệp: Cách các tập đoàn ứng phó với xung đột xã hội, do Cambridge University Press xuất bản, tìm hiểu cách doanh nghiệp xây dựng hệ thống quản trị khi các quy định công chưa rõ ràng. Thông qua những trường hợp liên quan đến dịch vụ gọi xe, tính bền vững về khí hậu và trí tuệ nhân tạo, cuốn sách xem xét cách doanh nghiệp đặt ra quy tắc, thực thi quyền hạn và giám sát hoạt động của chính mình.
Sự nghiệp của ông trải dài từ hành nghề luật doanh nghiệp ở châu Âu đến nghiên cứu về quản trị doanh nghiệp và quy định tài chính tại Berkeley Law. Nền tảng đó đã định hình tư duy của ông như thế nào, và điều gì thôi thúc ông viết cuốn Trật tự doanh nghiệp?
Tôi bắt đầu sự nghiệp với công việc hành nghề luật doanh nghiệp ở châu Âu, sau đó dành nhiều năm tại Berkeley nghiên cứu về quản trị doanh nghiệp và quy định tài chính, trong đó có việc tìm hiểu cách các quy tắc lan truyền qua biên giới khi không có chính phủ đơn lẻ nào nắm quyền điều phối. Chúng ta thường nghĩ thế giới kinh doanh và thế giới quản lý là hai thái cực đối lập: một bên muốn ra quyết định nhanh và thu lợi nhuận lớn, bên kia đề cao quy trình quan liêu và lợi ích công cộng. Cả kinh nghiệm hành nghề lẫn nghiên cứu đều cho tôi thấy ranh giới giữa hai bên mờ nhạt hơn nhiều.
Cuốn sách bắt nguồn từ những cuộc trò chuyện với các tổng cố vấn và lãnh đạo cấp cao về cách họ xử lý các quyết định gây tranh cãi—những quyết định mà nhân viên, khách hàng, cộng đồng và chính phủ đều mong muốn những điều khác nhau. Điều khiến tôi chú ý là phương pháp của họ gần với cách một cơ quan quản lý tốt hoạt động đến mức nào. Họ thu thập thông tin bằng cách liên hệ với những người bị ảnh hưởng, công khai giải thích các lựa chọn của mình và xây dựng cơ chế để kiểm tra xem những lựa chọn đó có đứng vững hay không. Đây không phải là những thói quen riêng của cơ quan quản lý hay doanh nghiệp. Đó là những nguyên tắc để đưa ra quyết định sáng suốt trong bất kỳ tổ chức nào nắm quyền lực đối với người khác. Trật tự doanh nghiệp là nỗ lực của tôi nhằm mô tả cơ chế đó, chỉ ra khi nào nó phát huy tác dụng và khi nào nó thất bại.
«Trật tự doanh nghiệp» là gì, và khái niệm này giúp giải thích như thế nào cách các công ty AI đặt ra quy tắc cho những công nghệ mà quy định pháp luật vẫn chưa theo kịp?
Trật tự doanh nghiệp là cơ sở hạ tầng quản trị nội bộ mà các công ty xây dựng để đưa ra những quyết định gây tranh cãi trước khi pháp luật quy định họ phải làm gì. Cơ sở hạ tầng này có ba chức năng, tương ứng với các nhánh quyền lực nhà nước. Lập quy tắc là cách công ty xây dựng các nguyên tắc của riêng mình. Hành động hành pháp là cách công ty áp dụng các nguyên tắc ấy vào những quyết định cụ thể. Giám sát là cách công ty kiểm tra xem mình đã thực hiện đúng cam kết hay chưa, đồng thời phát hiện khi mình chưa làm được điều đó.
Các công ty AI thể hiện cả ba chức năng này trong thực tế. Những phòng thí nghiệm tiên phong soạn thảo hiến chương, quy cách mô hình và khuôn khổ an toàn—đó là hoạt động lập quy tắc. Họ quyết định liệu một mô hình đã sẵn sàng ra mắt hay chưa, mô hình sẽ từ chối những gì và ai được quyền truy cập—đó là hành động hành pháp. Họ cũng đặt hàng các cuộc kiểm thử đối kháng, đánh giá độc lập và báo cáo sự cố—đó là hoạt động giám sát. Trong cuốn sách, tôi phân tích các chức năng này tại những phòng thí nghiệm lớn. Sự khác biệt giữa họ là có thật, nhưng xu hướng hội tụ rõ rệt cũng vậy, khi mỗi công ty dần nhận ra vì sao mình cần có đủ mọi thành tố.
Tôi muốn nói rõ một điều, bởi điều này thường bị hiểu sai: trật tự doanh nghiệp không phải là lập luận chống lại việc quản lý bằng pháp luật. Khái niệm này mô tả chất liệu nền tảng để xây dựng các quy định. Khi các nhà lập pháp hành động, họ mượn những khái niệm mà doanh nghiệp đã phát triển trước đó. Câu hỏi thực sự là liệu bản dự thảo ban đầu ấy có được soạn thảo đủ cẩn trọng để xứng đáng được kế thừa hay không.
Cuốn sách của ông xem xét dịch vụ gọi xe, tính bền vững về khí hậu và quản trị AI. Những bài học nào từ hai lĩnh vực đầu tiên hữu ích nhất cho AI, và AI đặt ra những thách thức khác biệt căn bản nào?
Bài học từ dịch vụ gọi xe và khí hậu là các doanh nghiệp rất thường là bên soạn thảo những quy định pháp luật đầu tiên. Uber và Lyft xây dựng các thông lệ về bảo hiểm và báo cáo an toàn trước khi các bang ban hành quy tắc cho những lĩnh vực này; phần lớn hoạt động hạch toán carbon của doanh nghiệp dựa trên Nghị định thư GHG, một tiêu chuẩn mà cộng đồng doanh nghiệp góp phần xây dựng. Sau đó, các cơ quan quản lý chấp thuận những thông lệ ấy, bổ sung cho chúng hoặc đưa chúng vào luật. Quy định hiếm khi bắt đầu từ con số không. Và doanh nghiệp càng cân nhắc thấu đáo các lựa chọn của mình, càng lưu tâm đến những bên bị ảnh hưởng, thì các lựa chọn ấy càng có khả năng được đưa vào quy định sau này.
AI khác biệt ở hai phương diện. Thứ nhất là tốc độ. Các cơ quan quản lý thường đi sau ngành công nghiệp một bước, nhưng trong lĩnh vực AI, khoảng cách còn lớn hơn nhiều. Các cơ quan này sẽ phải dựa vào doanh nghiệp để xây dựng tiêu chuẩn và quy trình nội bộ, đồng thời tập trung nỗ lực của mình vào giám sát, xác minh và thực thi. Điều đó khiến vai trò của họ khác đi, chứ không thu hẹp lại. Xác minh là khâu quyền lực công có ý nghĩa nhất, bởi đây là nơi xung đột lợi ích với ban lãnh đạo trở nên gay gắt nhất. Khác biệt thứ hai là phạm vi tác động. AI ảnh hưởng đến gần như mọi mặt của đời sống hằng ngày, đồng thời trở thành một khoản đầu tư lớn của cả quốc gia. Những hệ lụy đối với rủi ro hệ thống vừa khó có thể bỏ qua, vừa khó lường hết.
Khi một công ty AI tự lựa chọn và trả tiền cho các chuyên gia đánh giá an toàn độc lập bên ngoài, cần có những biện pháp bảo vệ nào để hoạt động giám sát đó thực sự độc lập?
Xung đột lợi ích này vốn quen thuộc trong hoạt động kiểm toán tài chính, và luật doanh nghiệp đã có sẵn các công cụ để xử lý. Trước hết là vấn đề ai tuyển dụng và miễn nhiệm. Mối quan hệ với người thẩm định nên do các thành viên hội đồng quản trị độc lập, không có ràng buộc tài chính nào khác với công ty, phụ trách; tương tự, ủy ban kiểm toán chứ không phải CEO hay CFO giám sát kiểm toán viên bên ngoài. Ban điều hành không nên được quyền miễn nhiệm người thẩm định chỉ vì những phát hiện của họ gây bất tiện.
Thứ hai là quyền tiếp cận thông tin và quyền công bố. Người thẩm định cần được xem những gì họ yêu cầu, đồng thời phải có quyền công bố các phát hiện của mình, hoặc ít nhất là một bản tóm tắt có ý nghĩa, mà không bị công ty phủ quyết. Rủi ro tổn hại danh tiếng là yếu tố tạo sức nặng cho hoạt động thẩm định. Thứ ba là cần có các tiêu chuẩn thẩm định chung, để việc đánh giá có cùng ý nghĩa giữa các công ty và người thẩm định không thể cạnh tranh bằng cách nới lỏng tiêu chuẩn. Thứ tư là bảo vệ người tố giác, thậm chí có thể thưởng cho họ khi cung cấp thông tin có thể xử lý, bởi những người trong công ty thường là những người đầu tiên biết khi một cuộc đánh giá bị chi phối.
Giả sử một đơn vị thẩm định độc lập phát hiện mối lo ngại nghiêm trọng về an toàn ngay trước khi một mô hình lớn được ra mắt. Ai nên nhận được phát hiện đó, và ai nên có thẩm quyền trì hoãn hoặc dừng việc triển khai?
Phát hiện đó nên được báo cáo trực tiếp cho hội đồng quản trị, lý tưởng nhất là cho một ủy ban gồm các thành viên độc lập chịu trách nhiệm về an toàn, chứ không chỉ thông qua ban điều hành đang thúc đẩy việc ra mắt. Ban điều hành có thể và nên phản hồi, nhưng không nên làm bên sàng lọc thông tin. Thẩm quyền trì hoãn hoặc dừng triển khai nên thuộc về hội đồng quản trị, bởi đây chính là loại quyết định mà hội đồng được lập ra để đưa ra: quyết định có hệ quả lớn, liên quan đến những lợi ích xung đột và không có đáp án đúng hiển nhiên.
Nhưng điều quan trọng hơn là quyết định phải được đưa ra một cách minh bạch, ghi chép lại và có thể truy nguyên đến những người đã đưa ra quyết định đó. Nếu hội đồng quản trị vẫn tiếp tục dù đã có mối lo ngại, hồ sơ cần cho thấy hội đồng biết những gì, đã cân nhắc những gì và vì sao cho rằng rủi ro có thể chấp nhận được. Dấu vết tài liệu đó tạo cơ sở cho trách nhiệm pháp lý, hoặc ít nhất là tổn hại danh tiếng, đồng thời khiến mọi người phải cân nhắc kỹ hơn. Các tòa án ngày càng sẵn sàng thừa nhận rằng những lựa chọn thiết kế phần mềm gây ra hệ quả cho người dùng; một công ty có thể chứng minh mình đã nỗ lực nghiêm túc và ghi chép đầy đủ sẽ ở vào vị thế rất khác so với công ty không thể làm được điều đó.
Khi những lo ngại về an toàn xung đột với các mục tiêu doanh thu hoặc áp lực cạnh tranh, quy trình ra quyết định đáng tin cậy của hội đồng quản trị nên được tổ chức như thế nào?
Một quy trình đáng tin cậy là quy trình dựa trên đầy đủ thông tin và có lưu lại hồ sơ. Hội đồng quản trị cần được cung cấp thông tin cụ thể về chi phí của việc trì hoãn, bản chất và khả năng xảy ra của mối lo ngại về an toàn, cũng như các phương án giảm thiểu rủi ro. Hội đồng cần xem xét liệu việc kiểm thử đã đầy đủ hay chưa; nếu chưa, cần yêu cầu kiểm thử thêm hoặc mời bên ngoài đánh giá. Khi vẫn còn bất định thực sự, có những lựa chọn trung gian giữa việc ra mắt và gác lại sản phẩm, chẳng hạn như phát hành giới hạn, triển khai theo từng giai đoạn hoặc đưa vào môi trường thử nghiệm biệt lập, giúp công ty tìm hiểu thêm trước khi cam kết. Dù hội đồng quyết định thế nào, những gì công ty sau đó công bố về mức độ an toàn của mô hình đều phải chính xác; đây là lĩnh vực tiềm ẩn phần lớn rủi ro kiện tụng hiện nay.
Sau đó, hội đồng quản trị nên ghi lại quyết định của mình và lý do đưa ra quyết định ấy. Theo thời gian, những hồ sơ này sẽ tạo thành một hệ thống tiền lệ, để quyết định khó khăn tiếp theo được cân nhắc dựa trên quyết định trước đó, đồng thời bất kỳ ai đánh giá công ty cũng có thể thấy liệu các nguyên tắc mà công ty tuyên bố có thực sự ràng buộc công ty hay không. Microsoft đã bắt đầu xây dựng loại hồ sơ quyết định này, và tôi cho rằng đây là một trong những công cụ ít được đánh giá đúng mức nhất trong quản trị trí tuệ nhân tạo. Áp lực cạnh tranh là có thật, và hội đồng quản trị có thể quyết định tiếp tục một cách hợp lý. Nhưng hội đồng không thể để quyết định được đưa ra theo mặc định.
Công trình của ông đề xuất một chuẩn mực “phán đoán kinh doanh vì lợi ích xã hội” để đánh giá các quyết định của hội đồng quản trị. Chuẩn mực này sẽ được áp dụng ra sao với một công ty trí tuệ nhân tạo hoãn ra mắt một sản phẩm có khả năng sinh lời vì nguy cơ gây hại cho công chúng?
Theo luật doanh nghiệp hiện hành, một hội đồng quản trị hoãn ra mắt một sản phẩm có khả năng sinh lời đã được bảo vệ rất tốt. Tòa án thường tôn trọng phán đoán kinh doanh của các giám đốc; việc chấp nhận lợi nhuận thấp hơn hôm nay để tránh gây hại vào ngày mai hoàn toàn phù hợp với nguyên tắc đó. Câu hỏi khó hơn nằm ở chiều ngược lại: liệu hội đồng quản trị có thực sự nghiêm túc xem xét nguy cơ gây hại cho công chúng hay không.
Chuẩn mực phán đoán kinh doanh vì lợi ích xã hội yêu cầu hội đồng quản trị đánh giá nguy cơ gây hại cho công chúng như cách họ đánh giá mọi rủi ro kinh doanh khác, dựa trên các chỉ số cụ thể, có thể đo lường và hữu hình ở mức tối đa có thể. Trọng tâm là quy trình và sự thẩm tra cẩn trọng, chứ không phải kết quả. Một hội đồng quản trị thu thập đúng thông tin, lắng nghe những người bị ảnh hưởng và ghi lại lý do của mình xứng đáng được tòa án tôn trọng, dù hoãn ra mắt hay vẫn tiến hành. Hội đồng không làm những việc đó thì không xứng đáng. Vì vậy, trong trường hợp ông nêu, bản thân việc hoãn ra mắt không phải là vấn đề. Vấn đề là liệu hội đồng có thể cho thấy mình đã đi đến quyết định đó như thế nào và liệu với cùng những sự kiện ấy, hội đồng có đưa ra quyết định tương tự một lần nữa hay không.
Các công ty trí tuệ nhân tạo công bố những khuôn khổ an toàn và cam kết tự nguyện, nhưng độc giả hiếm khi thấy các chính sách đó ảnh hưởng đến từng quyết định cụ thể ra sao. Bằng chứng nào có thể phân biệt hoạt động quản trị hiệu quả với một màn trình diễn nhằm cải thiện hình ảnh trước công chúng?
Rất thường xuyên, khi các công ty công bố các khuôn khổ, công chúng vẫn băn khoăn liệu khuôn khổ đó có thực sự được áp dụng cho những quyết định cụ thể hay chỉ là lời lẽ sáo rỗng mà công ty không bao giờ thực hiện. Câu trả lời là cần công khai thông tin theo một cách nhất định. Thay vì đưa ra thêm những tuyên bố về nguyên tắc, các công ty nên báo cáo những lựa chọn cụ thể mà họ đã đưa ra và khuôn khổ đã định hình các lựa chọn đó như thế nào: những đợt ra mắt nào bị trì hoãn, những năng lực nào bị giữ lại, những ngưỡng rủi ro nào đã bị chạm tới và điều gì xảy ra sau đó.
Bằng chứng thuyết phục nhất là một quyết định khiến công ty phải chịu tổn thất. Một khuôn khổ chưa bao giờ làm thay đổi kết quả, chưa bao giờ khiến một đợt ra mắt bị trì hoãn và chưa bao giờ được viện dẫn để đi ngược lại lợi ích doanh thu thì khó phân biệt với một hoạt động quan hệ công chúng. Những thông tin công bố này cũng cần đủ cụ thể để có thể kiểm chứng; với những vấn đề hệ trọng nhất, một bên thứ ba có uy tín cần xác minh và có thể công khai xác nhận điều đó.
Việc tự quản trị của doanh nghiệp có những giới hạn nào? Những quyết định nào về mức độ rủi ro AI có thể chấp nhận được cần có quy định công khai hoặc sự giám sát dân chủ?
Giới hạn quan trọng nhất liên quan đến những thất bại trong công tác giám sát. Ngay cả một công ty có trách nhiệm và thiện chí cũng có thể phải đối mặt với một cuộc khủng hoảng lớn, và khi đó, xung đột lợi ích sẽ gia tăng. Nhân viên có thể giữ lại thông tin gây ảnh hưởng đến công việc hoặc tiền thưởng của họ. Lãnh đạo có thể ém nhẹm tin xấu để tránh bị công chúng chỉ trích. Nỗi lo bị kiện tụng có thể khiến công ty không dám cởi mở. Trong các cuộc khủng hoảng doanh nghiệp trước đây, thông tin then chốt thường đến từ những người mà ban lãnh đạo không thể kiểm soát, các kiểm toán viên và chuyên gia thẩm định bên ngoài, những bên chịu ảnh hưởng hoặc những người tố giác nội bộ sử dụng các kênh báo cáo độc lập.
Đây là lúc các quy định công khai có vai trò quan trọng nhất. Luật pháp có thể đóng góp tương đối ít ở giai đoạn xây dựng quy định, bởi các đạo luật thường vay mượn những khái niệm cốt lõi từ chính các công ty. Luật pháp có thể đóng góp nhiều hơn về công khai thông tin, bằng cách áp dụng với cả những doanh nghiệp không tự nguyện công bố. Và luật pháp đóng góp nhiều nhất ở khâu xác minh, thông qua việc yêu cầu thẩm định độc lập, bảo vệ người tố giác và trao thẩm quyền thực chất cho hoạt động kiểm tra từ bên ngoài.
Giới hạn còn lại mang tính tập thể. Một công ty riêng lẻ chỉ có thể ngăn chính mình hành động. Công ty đó không thể ngăn các đối thủ cạnh tranh. Những quyết định về rủi ro thảm khốc, trong đó có việc có nên làm chậm tiến trình phát triển ở tuyến đầu hay không, đòi hỏi sự phối hợp giữa các công ty và chính phủ, trong nước cũng như quốc tế. Một mô hình mà tôi cho là đầy triển vọng là một tổ chức thiết lập tiêu chuẩn quốc tế theo khuôn mẫu của ISSB trong lĩnh vực báo cáo phát triển bền vững, độc lập với các chính phủ nhưng được giám sát bởi một hội đồng ủy thác có đại diện của họ. Việc thiết lập trật tự doanh nghiệp là cần thiết cho công việc này, bởi việc kiểm soát các mô hình diễn ra bên trong những công ty xây dựng chúng, nhưng không thể chỉ dựa vào các công ty để hoàn thành công việc đó.
Nếu hôm nay được tư vấn cho hội đồng quản trị của một công ty AI đang phát triển nhanh, bạn sẽ ưu tiên ba thay đổi nào trong công tác quản trị, và một năm sau bạn sẽ tìm kiếm bằng chứng gì để xác định liệu những thay đổi đó có hiệu quả hay không?
Thứ nhất, tham vấn trong quá trình xây dựng quy định. Trước khi ban hành hoặc sửa đổi khuôn khổ an toàn hay chính sách sử dụng, công ty nên tham vấn những người chịu ảnh hưởng (người dùng, xã hội dân sự, chuyên gia trong lĩnh vực) và công bố những ý kiến đã tiếp nhận cũng như cách công ty phản hồi. Thứ hai, báo cáo trách nhiệm định kỳ: bản tổng kết hằng năm về những quyết định khó khăn mà hội đồng quản trị và ban lãnh đạo đã đưa ra theo khuôn khổ đó, với đủ chi tiết để có thể kiểm tra. Thứ ba, một giám sát viên bên ngoài do các thành viên hội đồng quản trị độc lập thuê và nhận báo cáo, được toàn quyền tiếp cận và có quyền công bố thông tin.
Một năm sau, tôi sẽ tìm bằng chứng cho thấy từng thay đổi thực sự phát huy tác dụng. Với hoạt động tham vấn, cần có ít nhất một quy định thay đổi dựa trên những ý kiến công ty tiếp nhận. Với hoạt động báo cáo, cần công khai những quyết định mà công ty không muốn thảo luận, trong đó có những quyết định khiến công ty mất doanh thu hoặc thời gian. Với giám sát viên, cần có những phát hiện mà công ty không mong muốn cùng hồ sơ ghi lại việc hội đồng quản trị đã xử lý chúng ra sao. Nếu sau một năm, mọi thông tin được báo cáo đều là tin tốt thì những thay đổi đó chưa hiệu quả.
Cảm ơn ông về buổi phỏng vấn tuyệt vời. Độc giả muốn tìm hiểu cuốn sách và các lựa chọn mua sách có thể truy cập trang web chính thức của Trật tự doanh nghiệp.












