Di chuyển nhanh nhưng không phá vỡ mọi thứ: Làm thế nào để cân bằng việc áp dụng AI có trách nhiệm và đổi mới

Theo một cuộc khảo sát toàn cầu gần đây từ McKinsey, mặc dù 78% các tổ chức hiện đang sử dụng AI trong ít nhất một chức năng kinh doanh, nhưng chỉ 13% đã thuê chuyên gia tuân thủ AI và chỉ 6% có chuyên gia đạo đức AI trong nhân viên.

Đây là,坦白 nói, một hành vi liều lĩnh.

Mặc dù trong quá khứ không xa, tôi từng là một người tin tưởng lớn vào tư tưởng “di chuyển nhanh và phá vỡ mọi thứ” của Thung lũng Silicon, nhưng chúng ta không thể phép mình quá tự do với AI – một công nghệ mạnh mẽ hơn bất cứ thứ gì chúng ta đã từng thấy và đang phát triển với tốc độ ánh sáng.

Áp dụng AI mà không có rào cản có ý nghĩa là chính xác loại hành vi nhanh chóng và cắt góc mà được đảm bảo sẽ cuối cùng quay trở lại và rủi ro phá vỡ mọi thứ. Chỉ cần một vụ việc về thiên vị AI hoặc lạm dụng là đủ để phá vỡ nhiều năm xây dựng thương hiệu uy tín.

Và mặc dù nhiều CIO và CTO nhận thức được những rủi ro này, nhưng họ dường như đang hoạt động dưới giả định rằng các nhà quản lý sẽ cuối cùng can thiệp và cứu họ khỏi việc thiết lập các khuôn khổ của riêng họ, dẫn đến rất nhiều cuộc nói chuyện về rủi ro với rất ít giám sát thực sự.

Trong khi tôi không nghi ngờ rằng các quy định sẽ cuối cùng đến, tôi ít tự tin hơn rằng chúng sẽ được thiết lập bất cứ lúc nào sớm. ChatGPT được giới thiệu khoảng ba năm trước, và chúng ta chỉ mới bắt đầu thấy những điều như Cuộc họp của Thượng viện về trợ lý ảo và rủi ro an toàn diễn ra. Thực tế là, có thể mất nhiều năm trước khi chúng ta thấy bất kỳ quy định có ý nghĩa nào.

Thay vì lấy điều này làm lý do để trì hoãn việc quản lý nội bộ, điều này nên khuyến khích các doanh nghiệp采 lấy một cách tiếp cận chủ động hơn. Đặc biệt là khi các quy định cuối cùng đến, các công ty không có khuôn khổ của riêng họ sẽ phải vật lộn để tuân thủ. Điều này chính xác là những gì đã xảy ra khi GDPR và CCPA được ban hành.

Giống như các công ty khởi nghiệp đầy tham vọng của những năm đầu thập kỷ 2000 hiện đang được coi là có tiêu chuẩn cao hơn khi chúng đã phát triển thành những gã khổng lồ công nghệ, chúng ta phải trưởng thành trong cách tiếp cận áp dụng AI có trách nhiệm.

Không có “mua ngay trả sau” với các triển khai AI có trách nhiệm – bắt đầu ngay

Bước đầu tiên trong cách tiếp cận có trách nhiệm hơn đối với AI là ngừng chờ đợi các nhà quản lý và thiết lập các quy tắc của riêng bạn. Bất kỳ lợi thế nào bạn có thể nghĩ rằng bạn đang đạt được bằng cách tránh các biện pháp an toàn ngày hôm nay sẽ chỉ quay trở lại cắn bạn trong tương lai khi bạn phải đối mặt với quá trình tốn kém và gây gián đoạn để tuân thủ.

Tất nhiên, đối với nhiều người, vấn đề là không biết bắt đầu từ đâu. Công ty của tôi gần đây đã khảo sát 500 CIO và CTO tại các doanh nghiệp lớn và gần một nửa (48%) đã trích dẫn “xác định những gì cấu thành việc sử dụng hoặc triển khai AI có trách nhiệm” là một thách thức để đảm bảo sử dụng AI có đạo đức.

Một nơi dễ dàng để bắt đầu là mở rộng sự tập trung của bạn ngoài các tính năng được tạo khả năng bởi AI và xem xét các rủi ro có thể xảy ra. Ví dụ, mặc dù việc sử dụng AI có thể giúp nhân viên tiết kiệm thời gian, nhưng nó cũng mở ra khả năng chia sẻ大量 thông tin nhận dạng cá nhân (PII) hoặc bí mật thương mại với các mô hình ngôn ngữ lớn (LLM) không được cấp phép và phê duyệt.

Bất kỳ công ty kỹ thuật số nào ngày nay đều quen thuộc với Chu kỳ phát triển phần mềm (SDLC), cung cấp một khuôn khổ để xây dựng các sản phẩm chất lượng. Các thực tiễn quản lý AI tốt nhất nên được nhúng vào quy trình làm việc hàng ngày để đảm bảo rằng việc ra quyết định có trách nhiệm trở thành một phần của thói quen, không phải là một suy nghĩ sau.

Một cơ quan quản lý, chẳng hạn như một ủy ban đạo đức hoặc hội đồng quản trị, nên được thành lập để xác định các tiêu chuẩn về ứng dụng AI thực sự trông như thế nào trong tổ chức và định nghĩa các chỉ số để theo dõi và duy trì tiêu chuẩn đó. Về mặt chức năng, điều này trông giống như công cụ AI và quản lý mô hình, phê duyệt giải pháp, quản lý rủi ro, tuân thủ quy định và tiêu chuẩn, và giao tiếp minh bạch. Mặc dù về mặt kỹ thuật nó có thể là một “quá trình mới”, nhưng nó không khác nhiều so với các thực tiễn tốt nhất về dữ liệu và duy trì an ninh mạng và có thể được tự động hóa để đảm bảo phát hiện sớm bất kỳ vấn đề nào.

Tất nhiên, không tất cả các rủi ro đều yêu cầu mức độ chú ý giống nhau, vì vậy cũng quan trọng là phải phát triển một quá trình quản lý rủi ro phân cấp để nhóm của bạn có thể tập trung phần lớn nỗ lực của mình vào những gì đã được định nghĩa là ưu tiên cao.

Cuối cùng, và quan trọng nhất, giao tiếp minh bạch và rõ ràng về các thực tiễn quản lý cả nội bộ và bên ngoài là tối quan trọng. Điều này bao gồm việc duy trì các tài liệu sống về các tiêu chuẩn quản lý và cung cấp đào tạo liên tục để giữ cho các nhóm được cập nhật.

Ngừng coi quản lý là một mối đe dọa đối với đổi mới

Có thể mối đe dọa thực sự đối với AI có trách nhiệm là niềm tin rằng quản lý và đổi mới là đối thủ với nhau. Dữ liệu khảo sát của chúng tôi cho thấy 87% CIO và CTO cảm thấy rằng quá nhiều quy định sẽ hạn chế đổi mới.

Nhưng quản lý nên được coi là một đối tác chiến lược, không phải là một loại phanh đổi mới.

Một lý do quản lý được coi là một lực cản gây chậm trễ là vì nó thường được thực hiện vào cuối quá trình phát triển sản phẩm, nhưng các rào cản nên là một phần của quá trình. Như đã đề cập ở trên, quản lý có thể được tích hợp vào các chu kỳ chạy nước rút để nhóm sản phẩm có thể di chuyển nhanh chóng, trong khi các kiểm tra tự động về công bằng, thiên vị và tuân thủ đang chạy song song. Về lâu dài, điều này sẽ mang lại lợi ích khi khách hàng, nhân viên và các nhà quản lý cảm thấy tự tin hơn khi thấy trách nhiệm được xây dựng ngay từ đầu.

Và điều này đã được chứng minh là mang lại lợi ích tài chính. Nghiên cứu đã chỉ ra rằng các tổ chức có khuôn khổ quản lý dữ liệu và AI được thực hiện tốt sẽ trải qua sự cải thiện từ 21-49% về hiệu suất tài chính. Việc không thiết lập các khuôn khổ này cũng sẽ mang lại hậu quả của riêng nó. Theo cùng một nghiên cứu, vào năm 2027, đa số các tổ chức (60%) sẽ “không thực hiện được giá trị dự kiến của các trường hợp sử dụng AI do thiếu các khuôn khổ quản lý đạo đức gắn kết”.

Một lưu ý về luận điểm rằng quản lý không phải là tốn kém cho đổi mới là việc các nhóm pháp lý tham gia vào các cuộc trò chuyện này có xu hướng làm chậm mọi thứ. Tuy nhiên, trong kinh nghiệm của tôi, việc thiết lập một nhóm Quản lý, Rủi ro và Tuân thủ (GRC) sẽ giúp mọi thứ hoạt động trơn tru và nhanh chóng bằng cách đóng vai trò cầu nối giữa các nhóm pháp lý và sản phẩm.

Khi được quản lý tốt, nhóm GRC xây dựng mối quan hệ tích cực với nhóm pháp lý, đóng vai trò là mắt xích trên mặt đất và cung cấp cho họ các báo cáo họ cần, đồng thời cộng tác với nhóm phát triển để giảm thiểu các rủi ro về vụ kiện và phạt trong tương lai. Cuối cùng, điều này củng cố thêm rằng đầu tư vào quản lý ngay từ đầu là cách tốt nhất để đảm bảo nó không can thiệp vào đổi mới.

Tạo ra các hệ thống giám sát và quản lý có thể mở rộng

Mặc dù nhiều CIO và CTO được khảo sát cảm thấy rằng các quy định có thể hạn chế đổi mới, nhưng một tỷ lệ tương tự (84%) dự kiến công ty của họ sẽ tăng cường giám sát AI trong 12 tháng tới. Xem xét khả năng tích hợp AI sẽ tiếp tục mở rộng và mở rộng theo thời gian, cũng quan trọng là các hệ thống quản lý phải có khả năng mở rộng cùng với chúng.

Một điều tôi thường thấy trong các giai đoạn đầu của việc triển khai AI trong các doanh nghiệp là các đơn vị khác nhau trong kinh doanh đang làm việc trong các silo như vậy mà chúng đang chạy các triển khai khác nhau đồng thời và với các tầm nhìn khác nhau về “AI có trách nhiệm”. Để tránh những sự không nhất quán này, các công ty nên thiết lập một Trung tâm xuất sắc về AI chuyên dụng kết hợp chuyên môn kỹ thuật, tuân thủ và kinh doanh.

Trung tâm xuất sắc về AI sẽ thiết lập cả các tiêu chuẩn công ty rộng và các quy trình phê duyệt phân cấp nơi có một con đường trượt cho các trường hợp sử dụng rủi ro thấp. Điều này, ngược lại, duy trì tốc độ trong khi đảm bảo rằng các triển khai rủi ro cao phải trải qua các kiểm tra an toàn chính thức. Tương tự, Trung tâm xuất sắc cũng nên thiết lập các chỉ số an toàn AI cho các giám đốc điều hành hàng đầu để trách nhiệm không bị mất trong các chức năng kinh doanh hàng ngày.

Nhưng để biến điều này thành hiện thực, các giám đốc điều hành cần có khả năng hiển thị tốt hơn về chỉ số quản lý. Các bảng điều khiển cung cấp dữ liệu thời gian thực về các chỉ số này sẽ hiệu quả hơn nhiều so với các báo cáo tuân thủ tĩnh hiện tại thường bị lỗi thời và thường không được đọc. Lý tưởng nhất, các công ty cũng nên xây dựng các đăng ký rủi ro AI, giống như cách họ đang theo dõi các rủi ro an ninh mạng, ngoài việc giữ các hồ sơ kiểm toán phản ánh ai đã xây dựng một triển khai ML / AI, cách nó được kiểm tra và nó hoạt động như thế nào theo thời gian.

Điều quan trọng nhất ở đây là AI có trách nhiệm đòi hỏi quản lý phải là một quá trình liên tục. Nó không chỉ là về việc phê duyệt tại thời điểm ra mắt, mà là giám sát liên tục trong suốt vòng đời của mô hình. Như vậy, đào tạo là chìa khóa. Các nhà phát triển, nhà công nghệ và các nhà lãnh đạo kinh doanh nên được đào tạo về các thực tiễn AI có trách nhiệm để họ có thể phát hiện ra các vấn đề sớm và duy trì các tiêu chuẩn quản lý cao khi các hệ thống phát triển. Bằng cách này, các triển khai AI sẽ chắc chắn trở nên đáng tin cậy, hiệu quả và có lợi nhuận hơn – mà không cần phải phá vỡ mọi thứ trong quá trình.