Gerald Kierce, CEO và Đồng sáng lập của Trustible – Phỏng vấn

Gerald Kierce, CEO và Đồng sáng lập của Trustible, là một nhà lãnh đạo công nghệ và chính sách tập trung vào việc triển khai AI có trách nhiệm. Ông dẫn đầu sứ mệnh của Trustible trong việc giúp các tổ chức xây dựng niềm tin, quản lý rủi ro và tuân thủ các quy định AI mới nổi. Trước đó, ông từng là Phó Chủ tịch & Tổng Giám đốc Giải pháp AI tại FiscalNote, nơi ông giám sát các sản phẩm AI doanh nghiệp và giữ các vị trí cấp cao trong phát triển doanh nghiệp, sản phẩm, thành công của khách hàng và hoạt động điều hành. Sự nghiệp của ông luôn nằm tại giao điểm của công nghệ, quy định và thực hiện doanh nghiệp có thể mở rộng.

Trustible cung cấp một nền tảng quản trị AI giúp các tổ chức quản lý hệ thống AI, đánh giá và giảm thiểu rủi ro, cũng như triển khai tuân thủ thông qua các quy trình và tài liệu có cấu trúc. Được thiết kế cho các nhóm pháp lý, tuân thủ và AI, nền tảng này tập trung hóa các hoạt động quản trị, sắp xếp các trường hợp sử dụng AI với các khuôn khổ quy định và cho phép triển khai AI có trách nhiệm nhanh hơn và minh bạch hơn trên toàn doanh nghiệp.

Bạn đã chuyển từ tiếp thị sản phẩm và công việc của Chief of Staff sang lãnh đạo giải pháp AI tại FiscalNote trước khi thành lập Trustible. Bạn đã thấy gì trong những vai trò đó mà thuyết phục bạn rằng quản trị AI cần một nền tảng chuyên dụng, và vấn đề gì bạn quyết tâm giải quyết đầu tiên khi ra mắt Trustible?

Tôi may mắn có nhiều vai trò trong hơn 8 năm tại FiscalNote, nơi tôi bắt đầu với tư cách là một nhân viên sớm của Seed/Series A và rời đi với tư cách là một giám đốc điều hành sau khi IPO.

Trong công việc tiếp thị sản phẩm, công việc của Chief of Staff và cuối cùng là lãnh đạo giải pháp AI tại FiscalNote, tôi liên tục thấy vấn đề này xuất hiện từ các góc độ khác nhau. Quản trị AI cơ bản là một vấn đề xã hội – kỹ thuật, nhưng hầu hết các tổ chức đều tiếp cận nó theo cách phân mảnh. Các nhóm coi hiệu suất AI, bảo mật, quyền riêng tư, đạo đức và xem xét pháp lý là các đường ray riêng biệt, thường thuộc về các chức năng khác nhau với rất ít cột sống hoạt động chung gắn chúng lại với nhau. Những chiều không gian đó tuyệt đối quan trọng, và chúng cần được giải quyết một cách hợp tác. Nhưng nơi các tổ chức gặp khó khăn là chuyển đổi ý định xã hội – kỹ thuật đó thành thứ gì đó bền vững một khi AI di chuyển vào việc ra quyết định thực sự.

Đồng thời, môi trường quy định xung quanh AI rõ ràng đang thay đổi. Đạo luật AI của EU và các tiêu chuẩn liên quan cho thấy sự chuyển dịch hướng tới quản lý AI như cơ sở hạ tầng được quản lý chứ không phải công nghệ thử nghiệm. Điều trở nên rõ ràng là nhiều công ty đang cố gắng ánh xạ chính sách và kỳ vọng quy định vào hệ thống AI sau khi triển khai, thay vì thiết kế quản trị có thể liên tục triển khai ý định quy định trên các chiều không gian xã hội – kỹ thuật đó.

Kinh nghiệm của tôi tại FiscalNote rất quan trọng vì chúng tôi đang áp dụng AI cho chính môi trường pháp lý, chính sách và quy định. Chúng tôi đang giúp các tổ chức hiểu cách luật pháp thay đổi, cách yêu cầu được giải thích và cách kỳ vọng quy định chuyển thành nghĩa vụ hoạt động theo thời gian. Kinh nghiệm đó làm rõ rằng quản trị AI hiệu quả đòi hỏi phải có kỷ luật tương tự theo hướng ngược lại: áp dụng tư duy chính sách và quy định trực tiếp vào cách xây dựng, triển khai, giám sát và thích nghi hệ thống AI khi điều kiện thay đổi.

Khách hàng liên tục mô tả các điểm đau tương tự. Họ không thể tự tin trả lời những hệ thống AI nào đang được sản xuất, những hệ thống nào có rủi ro cao theo các quy định mới nổi, ai chịu trách nhiệm khi hệ thống vượt qua các ranh giới chức năng, hoặc làm thế nào để chứng minh tuân thủ liên tục khi mô hình, dữ liệu, nhà cung cấp và quy định phát triển đồng thời.

Khi chúng tôi ra mắt Trustible, vấn đề đầu tiên chúng tôi đặt ra để giải quyết là chuyển đổi quản trị xã hội – kỹ thuật từ lý thuyết thành hiện thực hoạt động. Chúng tôi tập trung vào việc tạo ra một hệ thống kết nối hành vi kỹ thuật, ngữ cảnh rủi ro của trường hợp sử dụng, quyền sở hữu và kỳ vọng quy định tại một nơi. Trustible được xây dựng để cung cấp cho các tổ chức một hệ thống hồ sơ sống cho AI, với khả năng hiển thị và trách nhiệm liên tục, để quản trị có thể theo kịp cả thay đổi công nghệ và tiến hóa quy định chứ không phải tụt lại phía sau.

Từ tuyến đầu, bạn đã học được gì trong hơn một năm qua về lý do tại sao các chương trình quản trị bị đình trệ một khi AI di chuyển vào quyết định thực sự, quy trình làm việc và trải nghiệm của khách hàng?

Một khi AI di chuyển ra khỏi thử nghiệm và vào các quy trình làm việc thực sự, quản trị có xu hướng bị đình trệ vì những lý do thực tế chứ không phải triết lý. Hầu hết các tổ chức đơn giản là không biết cách đánh giá rủi ro AI theo cách phù hợp với cách hệ thống thực sự được sử dụng. Họ có thể đánh giá mô hình trong môi trường trừu tượng, nhưng họ gặp khó khăn trong việc đánh giá rủi ro ở cấp độ trường hợp sử dụng, nơi ngữ cảnh, tác động và quyết định hạ nguồn quan trọng hơn nhiều so với các chỉ số kỹ thuật alone.

Vấn đề này trở nên thậm chí còn rõ ràng hơn với AI tạo sinh. Một mô hình nền tảng duy nhất có thể được sử dụng cho hỗ trợ khách hàng, nghiên cứu nội bộ, hỗ trợ quyết định hoặc tạo nội dung, mỗi trường hợp có hồ sơ rủi ro rất khác nhau. Không có cách thức cấu trúc để đánh giá và so sánh những sử dụng đó, các nhóm hoặc quá mức thận trọng hoặc tiến hành mà không có sự tự tin thực sự.

AI của bên thứ ba làm cho mọi thứ phức tạp hơn. Các tổ chức phụ thuộc rất nhiều vào nhà cung cấp và khả năng AI nhúng, nhưng lại thiếu phương pháp nhất quán để đánh giá những hệ thống đó, hiểu các kiểm soát dòng lên hoặc xác định cách rủi ro của nhà cung cấp dịch vào phơi nhiễm hoạt động và quy định của chính họ. Kết quả là, các đánh giá trở nên chủ quan và chậm.

Các thách thức này được khuếch đại bởi khoảng trống trong chuyên môn và quyền sở hữu. Trách nhiệm quản trị thường được phân chia giữa các nhóm pháp lý, tuân thủ, bảo mật, dữ liệu và sản phẩm mà không có khuôn khổ chung hoặc một chủ sở hữu rõ ràng chịu trách nhiệm một khi hệ thống đạt đến sản xuất. Kết hợp với công cụ không phù hợp như bảng tính, kho lưu trữ tài liệu hoặc nền tảng GRC cũ, các nhóm quản trị mất tầm nhìn vào những gì đang thay đổi và tại sao nó lại quan trọng.

Ở cốt lõi, quản trị bị đình trệ vì các tổ chức đang áp dụng các cuốn sách chơi cũ được thiết kế cho các hệ thống tĩnh vào các hệ thống AI động. AI đòi hỏi đánh giá rủi ro liên tục, quyền sở hữu rõ ràng gắn với kết quả và công cụ phản ánh cách hệ thống thực sự hoạt động trong sản xuất chứ không phải cách chúng được phê duyệt trên giấy.

Cuối cùng, quyền sở hữu thường không được giải quyết. Trong nhiều tổ chức, không có chủ sở hữu kinh doanh rõ ràng nào chịu trách nhiệm cho hệ thống AI một khi nó vượt qua từ thử nghiệm sang sản xuất. Không có chủ sở hữu kinh doanh được đặt tên chịu trách nhiệm về kết quả, quản trị trở thành tư vấn và tiến độ chậm lại.

Chủ đề chung là các tổ chức đang áp dụng các cuốn sách chơi cũ quản trị cho công nghệ mới cơ bản. Những cuốn sách chơi đó được xây dựng cho các hệ thống tĩnh và các đánh giá định kỳ. AI đòi hỏi đánh giá rủi ro liên tục, quyền sở hữu rõ ràng hơn và công cụ kết nối quản trị trực tiếp với cách hệ thống hoạt động trong sản xuất.

Làm thế nào bạn định nghĩa Quản trị AI Năm thứ hai, và điều gì thay đổi khi một tổ chức chuyển từ việc áp dụng ban đầu sang giám sát liên tục, quản lý trôi và tuân thủ liên tục?

Quản trị AI Năm thứ hai là thời điểm AI không còn được coi là một loạt dự án mà bắt đầu được coi là cơ sở hạ tầng cơ bản cho việc ra quyết định. Điều tôi muốn nói ở đây là, trong năm đầu tiên, quản trị AI chủ yếu là về việc cho phép. Các nhóm tập trung vào việc phê duyệt các trường hợp sử dụng, ghi lại các mô hình và thiết lập các quy trình xem xét để AI có thể tiến hành một cách có trách nhiệm.

Khi các hệ thống AI mở rộng và trở thành một phần của các quy trình kinh doanh cốt lõi,焦 điểm thay đổi. Câu hỏi không còn là liệu một thứ gì đó có nên được triển khai hay không, mà là liệu nó có thể được vận hành một cách an toàn và tin cậy theo thời gian khi dữ liệu, người dùng, nhà cung cấp và quy định thay đổi. Quản trị AI trở nên liên tục chứ không phải là định kỳ, được kích hoạt bởi những thay đổi thực sự trong hành vi hoặc ngữ cảnh chứ không phải bởi các đánh giá định kỳ theo lịch.

Rủi ro cũng trở nên động. Thay vì gán một xếp hạng rủi ro tĩnh tại thời điểm ra mắt, các tổ chức cần hiểu cách rủi ro tiến hóa khi các mô hình trôi, phạm vi mở rộng hoặc các bên liên quan mới tương tác với hệ thống. Tuân thủ theo cùng một chuyển đổi. Các yêu cầu quy định di chuyển từ việc được ánh xạ vào các chính sách thành được thực thi thông qua các kiểm soát trực tiếp, tín hiệu giám sát và bằng chứng được thu thập liên tục.

Một khía cạnh quan trọng khác của Quản trị AI Năm thứ hai là sự giới thiệu của quản lý sự cố AI thực sự. Các tổ chức cần biết những hệ thống nào đang được giám sát, ưu tiên chúng dựa trên rủi ro vốn có và tích hợp đúng dữ liệu để đưa ra các tín hiệu có ý nghĩa, cũng như xác định rõ tiêu chí cảnh báo và nâng cấp. Điều này cho phép các nhóm can thiệp sớm, trước khi vấn đề trở thành sự cố.

Với các hệ thống phân mảnh và nguồn lực hạn chế, những khả năng quản trị nào bạn nghĩ các công ty nên tiêu chuẩn hóa trên toàn tổ chức?

Khi nguồn lực hạn chế, các tổ chức cần có chủ đích về nơi họ bắt đầu, vì những lựa chọn ban đầu đặt ra quỹ đạo cho mọi thứ tiếp theo. Ưu tiên đầu tiên là có được tầm nhìn đáng tin cậy về nơi AI thực sự tồn tại trong kinh doanh. Nhiều nhóm tin rằng họ chỉ có một số hệ thống AI, chỉ để phát hiện ra AI bóng tối, khả năng của nhà cung cấp nhúng và các trường hợp sử dụng đã được mở rộng mà không được xem xét chính thức. Không có tầm nhìn sống về những gì đang được sản xuất, các cuộc thảo luận về quản trị vẫn mang tính lý thuyết và脱 rời khỏi thực tế.

Khi tầm nhìn tồn tại thông qua kho AI của bạn, điều đó là về việc đưa trách nhiệm vào các trường hợp sử dụng AI. Quản trị bị phá vỡ nhanh chóng khi trách nhiệm được phân chia giữa các ủy ban hoặc chức năng. Các tổ chức cần chỉ định rõ ai chịu trách nhiệm về kết quả khi một hệ thống AI đưa ra hoặc ảnh hưởng đến quyết định, không chỉ là ai xây dựng nó hoặc xem xét nó ban đầu. Sự rõ ràng này trở nên đặc biệt quan trọng khi sự cố xảy ra hoặc khi mô hình phát triển vượt ra ngoài phạm vi ban đầu.

Từ đó, các nhóm cần một cách thực tế để suy nghĩ về rủi ro. Điều này có nghĩa là thiết lập một cách tiếp cận chung để phân loại rủi ro hoạt động trên các hệ thống được xây dựng nội bộ, các trường hợp sử dụng AI tạo sinh và nhà cung cấp của bên thứ ba. Không có một ống kính rủi ro chung, các tổ chức hoặc sẽ kiểm tra quá mức các hệ thống có tác động thấp hoặc giám sát không đầy đủ những hệ thống quan trọng nhất.

Cuối cùng, quản trị phải tạo ra bằng chứng như một sản phẩm phụ của hoạt động bình thường. Chúng tôi thường thích nói về “Nói, Làm, Chứng minh” như một cách chứng minh sự tin cậy trong quản trị AI của bạn. Việc thu thập các phê duyệt, thay đổi và tín hiệu giám sát khi hệ thống chạy cho phép các tổ chức phản hồi các cuộc kiểm toán, sự cố, yêu cầu của khách hàng và câu hỏi quy định với sự tự tin chứ không phải là xây dựng lại. Những nền tảng này không cần phải hoàn hảo từ đầu, nhưng chúng cần phải nhất quán và có thể lặp lại nếu quản trị sẽ mở rộng quy mô.

Tại sao bạn tin rằng quản trị AI cần được đối xử với sự nghiêm túc tương tự như an ninh mạng hoặc GRC, và nơi các nhà lãnh đạo đánh giá thấp nhất công việc vận hành?

Quản trị AI mang rủi ro hệ thống có thể so sánh với an ninh mạng và GRC, nhưng với sự phức tạp bổ sung. Giống như thất bại an ninh mạng, thất bại AI có thể lan truyền nhanh chóng và vô hình trên toàn tổ chức. Giống như GRC, AI giao cắt với các nghĩa vụ pháp lý, đạo đức và hoạt động. Không giống như bất kỳ điều nào trong số đó, các hệ thống AI có thể thay đổi hành vi theo thời gian mà không có hành động của con người rõ ràng.

Ở nơi các nhà lãnh đạo thường đánh giá thấp công việc là trong các yêu cầu hoạt động liên tục. Giám sát là liên tục chứ không phải định kỳ. Điều phối bao gồm các nhóm sản phẩm, dữ liệu, CNTT, pháp lý, tuân thủ và mua sắm. Quản lý thay đổi là không ngừng vì mô hình, nhà cung cấp, trường hợp sử dụng và quy định phát triển đồng thời.

Các tổ chức coi quản trị AI là một bài tập tuân thủ một lần sẽ gặp khó khăn. Những tổ chức tiếp cận nó như cơ sở hạ tầng hoạt động, giống như an ninh hoặc kỹ thuật độ tin cậy, sẽ được đặt vị trí tốt hơn để mở rộng AI một cách an toàn và bền vững.

Khi các tiểu bang Hoa Kỳ thúc đẩy các quy tắc AI trong khi chính sách liên bang vẫn còn tranh cãi, làm thế nào các doanh nghiệp nên thiết kế quản trị để duy trì khả năng chống chịu thông qua sự không chắc chắn về quy định?

Môi trường quy định xung quanh AI không chắc chắn và đang phát triển. Các chương trình quản trị mạnh mẽ nhất được xây dựng xung quanh các yêu cầu chứ không phải các quy định riêng lẻ. Thay vì phản ứng với mỗi luật mới với các quy trình tùy chỉnh, các tổ chức nên tập trung vào các kỳ vọng chung xuất hiện trên các khu vực pháp lý, chẳng hạn như hàng tồn kho, minh bạch, trách nhiệm, đánh giá rủi ro, giám sát của con người và tài liệu.

Khi các hệ thống quản trị là mô-đun, các yêu cầu quy định mới có thể được ánh xạ vào các kiểm soát hiện có thay vì buộc các nhóm phải tái phát minh cách tiếp cận của họ mỗi khi cảnh quan thay đổi. Điều này giảm ma sát và giúp quản trị theo kịp thay đổi chính sách.

Mục tiêu là không tối ưu hóa cho tuân thủ với các quy tắc ngày nay, mà là thích nghi khi kỳ vọng thay đổi.

Nhìn về năm 2026, những khả năng quản trị AI nào bạn dự đoán sẽ trở nên không thể thương lượng khi các tổ chức mở rộng AI trên nhiều đơn vị kinh doanh?

Khi AI di chuyển từ các thử nghiệm bị cô lập sang các hệ thống ảnh hưởng đến quyết định thực sự, kỳ vọng quản trị đang thay đổi nhanh chóng. Vào năm 2026, các tổ chức sẽ không còn có thể dựa vào các cuốn sách chơi đã hoạt động trong năm 2024 và 2025, khi giám sát AI thường là thủ công, định kỳ và tập trung vào các đánh giá cá nhân. Giám sát liên tục sẽ trở thành một yếu tố cơ bản, vì tài liệu tĩnh và đánh giá tại một thời điểm sẽ không đáp ứng được các quy định, hội đồng quản trị, nhân viên hoặc khách hàng trong một môi trường AI động.

Khi AI trở nên nhúng trên nhiều nhóm và quy trình làm việc, các tổ chức cũng sẽ cần quản trị nhất quán trên các chuỗi cung ứng AI ngày càng phức tạp. Các mô hình nội bộ, nhà cung cấp của bên thứ ba, tính năng AI nhúng và các thành phần tự động sẽ cần được quản lý thông qua cùng một ống kính, chứ không phải đối xử với AI của nhà cung cấp như một điểm mù hoặc giả định rằng trách nhiệm kết thúc tại mua sắm.

Bằng chứng sẵn sàng kiểm toán sẽ cần có sẵn theo yêu cầu khi thực thi quy định thắt chặt và kỳ vọng minh bạch của công chúng tăng lên. Điều này có nghĩa là thu thập hoạt động quản trị khi các hệ thống AI được thiết kế, triển khai và giám sát, chứ không phải là xây dựng lại quyết định sau khi có sự cố hoặc yêu cầu kiểm toán.

Cuối cùng, quản trị sẽ cần được nhúng trên toàn bộ vòng đời AI. Giám sát sẽ không chỉ là một đánh giá pháp lý tại thời điểm triển khai, mà là một khả năng hoạt động được tích hợp vào các quy trình SDLC, MLOps và mua sắm cho các bên thứ ba. Các tổ chức xây dựng các khả năng này sẽ được đặt vị trí tốt hơn để thích nghi với sự không chắc chắn về quy định, phản hồi với các sự cố và mở rộng AI nhanh hơn và an toàn hơn khi kỳ vọng tiếp tục phát triển.

Nếu bạn đang tư vấn cho một công ty đã có AI trong sản xuất nhưng không có chương trình quản trị chính thức, 90 ngày đầu tiên thực tế sẽ trông như thế nào?

30 ngày đầu tiên nên tập trung vào việc có được tầm nhìn cơ bản. Điều đó có nghĩa là xác định những hệ thống AI nào đang được sản xuất, hiểu nơi chúng ảnh hưởng đến quyết định thực sự và chỉ định quyền sở hữu rõ ràng.

Giai đoạn tiếp theo là về việc thiết lập các kiểm soát cơ bản. Các tổ chức nên định nghĩa cách họ phân loại rủi ro, giới thiệu các điểm kiểm tra phê duyệt cho các hệ thống có rủi ro cao hơn và bắt đầu giám sát các lĩnh vực quan trọng nhất.

Trong giai đoạn cuối, quản trị cần di chuyển từ thiết lập sang hoạt động. Giám sát nên được tích hợp vào các quy trình làm việc hiện có, các đường dẫn nâng cấp nên được định nghĩa rõ ràng và bằng chứng nên bắt đầu tích lũy một cách tự nhiên khi hệ thống chạy.

Mục tiêu trong 90 ngày đầu tiên không phải là sự hoàn hảo. Đó là động lực. Một chương trình quản trị hoạt động không hoàn hảo trong thực tế có giá trị hơn nhiều so với một chương trình chỉ tồn tại trên giấy.”

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Trustible.