Kimberly Nevala – Giám đốc Chiến lược Kinh doanh tại SAS – Loạt Phỏng vấn

SAS là một công ty phân tích và trí tuệ nhân tạo toàn cầu cung cấp các giải pháp trong quản lý dữ liệu, phân tích nâng cao và trí tuệ nhân tạo. Nền tảng hàng đầu của SAS, SAS Viya, nhấn mạnh vào tốc độ, khả năng mở rộng và ra quyết định đáng tin cậy cho các tổ chức trên các ngành công nghiệp. Công ty này giới thiệu các trường hợp sử dụng trong phát hiện gian lận, tối ưu hóa tiếp thị, IoT và quản lý rủi ro, đồng thời cung cấp các thử nghiệm miễn phí, đào tạo và chương trình học thuật để hỗ trợ việc áp dụng rộng rãi phân tích.

Bạn đã xây dựng sự nghiệp của mình bằng cách hướng dẫn các tổ chức thông qua các chuyển đổi văn hóa, chiến lược và kỹ thuật phức tạp – từ tư vấn quản lý đến lãnh đạo chiến lược kinh doanh tại SAS. Làm thế nào để hành trình đó định hình quan điểm của bạn về những gì thực sự cần thiết cho các doanh nghiệp để áp dụng AI một cách có ý nghĩa – và bao gồm?

Mặc dù phạm vi rộng lớn của các khả năng AI mới nổi và các tác động tương tự như động đất, nhưng các khối xây dựng cơ bản cho việc thúc đẩy chuyển đổi kỹ thuật vẫn không thay đổi. Mặc dù các tác động của việc làm sai đã thay đổi.

Trước hết, cần phải có một sự thể hiện rõ ràng về các giá trị và ưu tiên của tổ chức. Cùng với một sự hiểu biết rõ ràng về cách các yếu tố này ảnh hưởng đến cách nhân viên hoặc khách hàng tương tác với thương hiệu. Tiếp theo, cần phải có một sự hiểu biết rộng rãi về công nghệ mới nổi, bao gồm cả các hạn chế và ràng buộc vốn có. Cuối cùng, cần phải có tầm nhìn vào các khoảng trống kỹ năng và rào cản áp dụng dựa trên một và hai yếu tố trên. Điều đáng chú ý là điều này không chỉ giới hạn ở chuyên môn kỹ thuật mà còn bao gồm cả kiến thức kinh doanh.

Tất cả những điều này sau đó phải được hỗ trợ bởi quản trị mạnh mẽ nhưng linh hoạt. Được hỗ trợ, tất nhiên, bởi đầu tư có mục tiêu và cố ý vào cả con người và công nghệ.

Bạn đã nói về việc hiểu biết AI đang trở thành một kỹ năng lãnh đạo thiết yếu như tư duy chiến lược và am hiểu tài chính. Vậy hiểu biết AI trông như thế nào trong thực tế đối với các nhà lãnh đạo ngày nay?

Thử nghiệm thực tế cho sự thông thạo là đơn giản. Các nhà lãnh đạo của bạn có kiến thức cần thiết để thẩm vấn một giải pháp AI được đề xuất không?

Điều này không có nghĩa là các nhà lãnh đạo cần phải sâu vào mã code. Thay vào đó, các nhà lãnh đạo ở tất cả các cấp độ nên thể hiện sự thông thạo ngữ cảnh. Nghĩa là họ được giáo dục về các yếu tố có thể ảnh hưởng hoặc ảnh hưởng đến phán quyết của họ về một hệ thống AI. Các yếu tố này sẽ thay đổi dựa trên vai trò của nhà lãnh đạo. Cụ thể, phạm vi quyết định mà họ được giao nhiệm vụ thực hiện.

Nói một cách đơn giản, thử nghiệm là như thế này: họ có biết câu hỏi nào để hỏi không? Ví dụ, một giám đốc điều hành có thể xác định các yếu tố con người và kỹ thuật có tác động lớn nhất đến tính khả thi và hồ sơ rủi ro của một giải pháp AI nhất định? Cả về mặt rộng và trong một ngữ cảnh được áp dụng.

Thậm chí tốt hơn: họ có hiểu biết về các hạn chế của công nghệ không? PR và tiếp thị có xu hướng tập trung vào mặt tích cực, trong khi đào tạo kinh nghiệm cho thấy các hạn chế. Các hạn chế này có thể quy định các rào cản thủ tục và kỹ thuật cần thiết để triển khai một giải pháp AI nhất định một cách có lợi. Trong khía cạnh này, mức độ mà các nhà lãnh đạo hiểu và xác định các hạn chế như vậy thường là sự khác biệt giữa việc áp dụng có ý nghĩa và thất bại.

Tại sao việc đảm bảo bình đẳng giới trong lãnh đạo AI lại là một vấn đề quan trọng ngay bây giờ – và những rủi ro nào mà chúng ta phải đối mặt nếu phụ nữ vẫn là những người áp dụng thụ động chứ không phải những người tạo ra sự phát triển và quản trị AI?

Tôi may mắn được làm việc, nói chuyện và học hỏi từ phụ nữ làm việc trên tất cả các khía cạnh của AI mỗi ngày. Vì vậy, việc đóng khung phụ nữ như những người áp dụng thụ động, đối với tôi, gợi lên những hình ảnh giống như trẻ em và gây hiểu lầm. Phụ nữ đang tích cực tham gia vào các nỗ lực lãnh đạo AI, mặc dù với số lượng ít hơn so với dân số được giáo dục của chúng tôi.

Thiếu bình đẳng giới trong công nghệ là một vấn đề đa diện đã tồn tại trước AI. Không có giải pháp đơn giản vì có nhiều yếu tố tại chơi. Một số yếu tố dẫn đến ít tài trợ cho và / hoặc công nhận phụ nữ trong lĩnh vực này. Điều này làm cho nó đau đớn khi phụ nữ nhận được sự công nhận rộng rãi thường làm việc trong AI có trách nhiệm hoặc đạo đức. Ban đầu được dán nhãn là chống AI, công việc của họ hiện đang được xem xét lại khi thái độ thay đổi.

Mặc dù vậy, nếu không có sự can thiệp có chủ ý, chúng ta sẽ rủi ro các hệ thống AI làm tăng các bất bình đẳng hiện có trên quy mô lớn. Chúng ta thấy điều này trong việc sử dụng các hệ thống sàng lọc và tuyển dụng HR tự động ưu tiên cho các ứng viên nam do các偏见 lịch sử được ghi lại trong dữ liệu.

Thiếu đa dạng ở tất cả các cấp độ có nghĩa là các quyết định về loại hệ thống AI nào được xây dựng, cách chúng được triển khai, quan điểm và nhu cầu của ai được giải quyết và ai không, được quyết định bởi một nhóm ngày càng khép kín. Điều này không tốt cho mọi người. Các nhóm quản lý đa dạng thúc đẩy kết quả kinh doanh tốt hơn. Các nhóm sản phẩm đa dạng cung cấp các giải pháp AI mạnh mẽ, linh hoạt và hoạt động tốt hơn.

Cuối cùng, nếu các hệ thống AI không giải quyết các quan điểm và nhu cầu của phụ nữ (hoặc bất kỳ nhóm yếu thế nào khác) hoặc được chứng minh là có hại, thì động lực để áp dụng là gì? Trừ khi, tất nhiên, những hệ thống này sẽ được triển khai với hoặc không có sự tham gia của chúng tôi. Bằng cách bao gồm các tiếng nói đa dạng và thực thi quản trị AI, có thể thực hiện được lời hứa của AI.

Được biết SAS đã đưa ra những đổi mới mới nhất – chẳng hạn như các đại lý AI trong SAS Viya, các khuôn khổ ra quyết định thông minh, công cụ dữ liệu tổng hợp như Data Maker và các mô hình AI tùy chỉnh – làm thế nào các doanh nghiệp đang suy nghĩ lại về các đường ống lãnh đạo của họ để nâng cao cả sự thông thạo AI và công bằng?

Các doanh nghiệp đang nhận ra rằng phạm vi và tác động của các ứng dụng này vượt quá khả năng của bất kỳ người quyết định hoặc người thực hiện nào. Việc triển khai AI thành công phụ thuộc vào sự tin tưởng và tham gia của “làng”. Các vấn đề và cạm bẫy tiềm ẩn quá rộng để bất kỳ nhà lãnh đạo nào có thể giải quyết một mình.

Để nhận ra thực tế này, các doanh nghiệp AI hàng đầu đang dựa vào các thực tiễn thiết kế và quản trị tham gia. Trong mô hình này, sự thông thạo và công bằng không được tăng cường bởi các chương trình đào tạo và văn hóa chính thức. Nhưng bởi việc chia sẻ kiến thức và ra quyết định tập thể xảy ra khi đưa các quan điểm đa dạng từ toàn bộ hệ sinh thái doanh nghiệp lại với nhau. Những hợp tác này không chỉ giới hạn ở những người quyết định mà còn tích cực bao gồm những người mà công việc của họ sẽ bị ảnh hưởng bởi hệ thống AI đang được xem xét. Mặc dù chủ yếu là lĩnh vực của các cơ quan công cộng và chính phủ ngày nay, một số tổ chức đã tích cực tham gia các bên liên quan bên ngoài, bao gồm cả nhóm khách hàng và tổ chức lợi ích công cộng.

Các bước thực tế nào mà các nhà lãnh đạo tiềm năng – đặc biệt là phụ nữ – có thể thực hiện ngay hôm nay để xây dựng uy tín và quyền lực trong một thị trường ngày càng được thúc đẩy bởi AI?

Trước hết là nhận ra rằng chúng ta có quyền lực. Mỗi cá nhân có cơ hội ảnh hưởng đến sự phát triển của AI theo nhiều cách: thông qua việc tiêu thụ và sử dụng có chủ ý các công cụ AI cụ thể; thông qua việc vận động và tham gia tập thể trong các diễn đàn cộng đồng và chính trị địa phương; bằng cách tham gia các nhóm lợi ích nhân viên hoặc mạng lưới nhà vô địch cộng đồng (và nếu những điều đó không tồn tại, bằng cách bắt đầu một nhóm); và bằng cách giơ tay tham gia các chương trình AI hoặc lãnh đạo các sáng kiến tại nơi làm việc.

Thứ hai, là đầu tư vào sự thông thạo của riêng bạn ở bất kỳ mức độ nào có ý nghĩa đối với bạn. Có nhiều tài nguyên trực tuyến bao gồm từ các khóa học về quản trị và đạo đức AI, đến các lớp học đại học trực tuyến giới thiệu về toàn bộ phạm vi khả năng AI. Nhiều lựa chọn này được cung cấp miễn phí hoặc với chi phí tối thiểu.

Cuối cùng, tham gia và đóng góp tích cực vào các nhóm mạng lưới ngành AI hoặc các nhóm lợi ích đặc biệt. Những nhóm này cung cấp cơ hội không chỉ để chia sẻ kiến thức mà còn để nuôi dưỡng các mối quan hệ có thể cung cấp sự hướng dẫn, liên minh và uy tín khi bạn xây dựng chuyên môn và mạng lưới của mình.

Bạn đã nhấn mạnh sự chuyển đổi văn hóa, quản trị dữ liệu và việc áp dụng công nghệ có trách nhiệm. Làm thế nào để các yếu tố nền tảng này hỗ trợ sự phát triển của các nhà lãnh đạo sẵn sàng cho AI?

Câu trả lời truyền thống là những nền tảng này trang bị cho các nhà lãnh đạo các công cụ để giải quyết sự phức tạp, quản lý rủi ro, giảm chi phí và tăng năng suất. Tất cả những kết quả này đều đúng, tuy nhiên, lợi ích được đánh giá thấp nhất của những thực tiễn này là sự tự tin.

Khi thực hiện đúng, những yếu tố này tạo ra một môi trường trong đó nhân viên có thể thử nghiệm và đổi mới một cách tự tin trong khuôn khổ của đạo đức, pháp lý và kinh doanh của công ty.

Điều này đặc biệt quan trọng khi các giải pháp có sẵn dao động từ các công cụ năng suất cá nhân đến các luồng công việc được thiết kế và nhúng. Các quyết định về việc sử dụng AI không chỉ xảy ra trong phòng họp hoặc trong bối cảnh của một dự án AI chính thức. Từ phát triển đến khám phá đến triển khai và hơn thế nữa, một loạt các yếu tố tích lũy ảnh hưởng đến cách hệ thống hoạt động và được nhận thức.

Các hướng dẫn phản hồi cho phép các cá nhân và nhóm ở tất cả các cấp độ tích cực thử nghiệm, đưa ra quyết định kịp thời về việc liệu có nên tiến hành các giải pháp hay không và xây dựng tốt hơn trong khuôn khổ của một hệ thống quy định.

Mối liên kết trực tiếp giữa sự đổi mới có trách nhiệm và quản trị không còn là giả thuyết. IDC và SAS gần đây đã tiến hành nghiên cứu về mối liên kết giữa các thực tiễn AI có trách nhiệm, niềm tin và hiện thực hóa giá trị. Sự đổi mới có trách nhiệm không phải là một điều tốt đẹp lý thuyết mà ngày càng trở thành một yêu cầu kinh tế.

Từ các cuộc trò chuyện trên podcast Pondering AI của bạn, những hiểu biết nào về lãnh đạo có trách nhiệm và bao gồm nổi bật là quan trọng nhất đối với các tổ chức đang điều hướng chuyển đổi AI?

Ngôn ngữ của AI là phức tạp. Chúng ta nói về các hệ thống AI suy nghĩ, ảo giác và thậm chí hành vi không đúng. Chúng ta hình dung các hệ thống AI như đồng nghiệp hoặc thành viên trong nhóm. Như vậy, rất dễ dàng chuyển các giả định và kỳ vọng từ con người sang AI. Do đó, chúng ta mất tập trung vào trách nhiệm của con người, sự tham gia và sử dụng AI có trách nhiệm. Chúng ta cũng che giấu sự cần thiết của sự nghiêm ngặt cần thiết để cung cấp các hệ thống AI mạnh mẽ và linh hoạt, những hệ thống này, khi thực hiện tốt, dường như đơn giản.

Điều này làm cho nó quan trọng để tập trung sự hiểu biết của chúng ta về AI như một nỗ lực vốn có của con người. Mặc dù các câu chuyện nhân hóa phổ biến, các hệ thống AI luôn phản ánh các giá trị và ý định của những người tạo ra chúng: các vấn đề chúng ta chọn giải quyết, các kỹ thuật hoặc mô hình chúng ta áp dụng, dữ liệu chúng ta sử dụng để đào tạo và cách người dùng tương tác với hệ thống. Mỗi hệ thống AI đều là sản phẩm của những quyết định của con người.

Sự tự tin và niềm tin vào các hệ thống AI không đến từ AI. Con người cuối cùng quyết định tự động hóa hoặc tăng cường công việc của một người. Không phải là hệ thống quyết định mức độ chính xác hoặc giải thích nào là đủ. Không phải là AI quyết định mô hình tương tác người dùng phù hợp nhất. Khi một chương trình trò chuyện bị hành vi không đúng, nó không ảnh hưởng đến AI; nó làm giảm thương hiệu và lợi nhuận của công ty sử dụng AI.

Vì vậy, AI tập trung vào con người là chìa khóa.

Nhiều tổ chức đã có các bộ công cụ AI tiên tiến – nhưng vẫn gặp khó khăn với văn hóa, quản trị và bao gồm. Từ kinh nghiệm của bạn, những can thiệp hoặc tư duy nào giúp các tổ chức bắc cầu hiệu quả?

AI, như nhiều công nghệ mới nổi, dễ rơi vào cùng một chu kỳ cường điệu như những người tiền nhiệm của nó. Trong thời đại dữ liệu lớn, trở thành một tổ chức được thúc đẩy bởi dữ liệu là tất cả. Ít tổ chức đã thực hiện tầm nhìn của mình. Những tổ chức đã làm được điều đó đã kỷ luật trong việc giải quyết các vấn đề có thể xác định được như giảm thời gian hoàn thành cho X hoặc cho phép tự phục vụ cho Y. Không phải là trùng hợp khi nhiều công ty đó hiện đang là những người dẫn đầu trong ngành AI.

Khi xác định các sáng kiến AI, hãy bắt đầu với các mục tiêu kinh doanh rõ ràng và các kết quả có thể đo lường được, sau đó xác định các kỹ thuật AI có sẵn nào phù hợp với mục đích. Kháng cự lại sự thôi thúc để trở nên bóng bẩy. Các giải pháp sáng tạo cho các vấn đề nhàm chán cuối cùng sẽ mang lại lợi nhuận. Hãy giải quyết các quy trình và nhiệm vụ nhàm chán, lặp đi lặp lại xảy ra trên quy mô lớn.

Bạn sẽ không làm đúng mọi lúc. Nhưng tập trung sự chú ý và đầu tư của bạn với kết quả kinh doanh trong tâm trí cho phép có khả năng thành công cao nhất.

Khi các hệ thống AI trở nên tự chủ và tích hợp vào việc ra quyết định – thông qua các công cụ như đại lý AI và trợ lý đồng hành – những rào cản đạo đức hoặc cấu trúc quản trị nào bạn tin là cần thiết để duy trì niềm tin, minh bạch và công bằng trong lãnh đạo?

Ở SAS, chúng tôi định nghĩa quản trị AI thông qua ống kính giám sát, tuân thủ, hoạt động và văn hóa. Bất kể khuôn khổ nào bạn áp dụng, có hai yếu tố tôi muốn nhấn mạnh.

Thứ nhất là mỗi ứng dụng AI, ngay cả khi được xây dựng trên cùng một mô hình hoặc tập dữ liệu cơ bản, phải được đánh giá độc lập và liên tục. Điều gì hoạt động cho tiếp thị có thể không hoạt động cho tài chính. Một tỷ lệ lỗi, hay ảo giác, có thể chấp nhận được cho nhân viên sẽ không hiệu quả trong các tương tác với khách hàng. Ngoài ra, do bản chất xác suất của chúng, sự thay đổi trong hành vi của người dùng, luồng dữ liệu cơ bản và vô số yếu tố khác có thể nhanh chóng thay đổi hành vi và đầu ra của hệ thống AI.

Thứ hai là đạo đức và quản trị AI không tồn tại trong chân không. Bản chất của những giải pháp này đòi hỏi sự hợp tác với quản trị doanh nghiệp, tuân thủ pháp lý và quy định, quản lý rủi ro doanh nghiệp và an ninh mạng. Việc tận dụng và mở rộng những thực tiễn này thay vì tái tạo chúng có thể cung cấp một khởi đầu chạy.

Nhìn về tương lai, bạn thấy các năng lực lãnh đạo đang thay đổi như thế nào trong một thế giới được thúc đẩy bởi AI – và những ý nghĩa gì đối với các tổ chức không nuôi dưỡng sự thông thạo mới này?

Tôi tin rằng tầm nhìn và khả năng phục hồi sẽ trở nên ngày càng quan trọng. Tốc độ thay đổi nhanh chóng khuyến khích các nhà lãnh đạo liên tục đánh giá và thích nghi với các chiến lược và chiến thuật kinh doanh khi công nghệ tiến bộ. Các nhà lãnh đạo phải đánh giá giá trị, tính khả thi và rủi ro trên các đường chân trời và quan điểm khác nhau. Dữ liệu những quan điểm này phải bao gồm không chỉ cổ đông mà còn khách hàng, nhân viên và đôi khi là xã hội nói chung. Tầm nhìn là cần thiết để điều hướng cảnh quan này.

Khả năng phục hồi cũng là một yếu tố trong AI. Như Jordan Loewen-Colón lón đã nói một cách tinh tế khi đề cập đến việc áp dụng và quản trị AI: AI là một quá trình, không phải là một công tắc. Khả năng học hỏi, thích nghi và liên tục cải thiện trong khi vẫn giữ nguyên hướng chung sẽ phân biệt các nhà lãnh đạo với phần còn lại.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập SAS.