Kimberly Nevala Direktur Strategi Bisnis di SAS – Seri Wawancara

SAS adalah perusahaan analitik dan AI global yang menawarkan solusi dalam pengelolaan data, analitik lanjutan, dan kecerdasan buatan. Platform andalannya, SAS Viya, menekankan kecepatan, skalabilitas, dan pengambilan keputusan yang dipercaya untuk organisasi di berbagai industri. Perusahaan ini menampilkan contoh penggunaan dalam deteksi penipuan, optimasi pemasaran, IoT, dan manajemen risiko, sementara juga menyediakan uji coba gratis, pelatihan, dan program akademik untuk mendukung adopsi analitik yang luas.

Anda telah membangun karir Anda dengan membimbing organisasi melalui transformasi budaya, strategis, dan teknis yang kompleks – dari konsultasi manajemen hingga memimpin strategi bisnis di SAS. Bagaimana perjalanan itu telah membentuk pandangan Anda tentang apa yang sebenarnya diperlukan untuk perusahaan agar dapat mengadopsi AI dengan cara yang bermakna – dan inklusif?

Meskipun cakupan kemampuan AI yang muncul sangat luas dan memiliki dampak yang sama besar, blok bangunan dasar untuk mengemudi transformasi teknis tidak berubah. Meskipun dampaknya untuk melakukan kesalahan telah berubah.

Pertama, perlu ada artikulasi yang jelas tentang nilai dan prioritas organisasi. Bersama dengan pemahaman yang jelas tentang bagaimana faktor-faktor ini mempengaruhi bagaimana karyawan atau pelanggan berinteraksi dengan merek. Selanjutnya, perlu ada pemahaman yang luas tentang teknologi yang muncul, termasuk keterbatasan dan kendala bawaannya. Terakhir, visibilitas ke dalam celah keterampilan dan hambatan adopsi berdasarkan satu dan dua di atas. Yang mana ini tidak terbatas pada keahlian teknis tetapi juga keahlian bisnis.

Semua itu harus didukung oleh tata kelola yang kuat tetapi adaptif. Yang didukung, tentu saja, oleh investasi yang ditargetkan dan disengaja dalam orang dan teknologi.

Anda telah berbicara tentang literasi AI yang meningkat ke tingkat keterampilan kepemimpinan esensial seperti pemikiran strategis dan akuntansi keuangan. Apa yang terlihat seperti kelancaran AI dalam praktek untuk pemimpin hari ini?

Uji kelancaran praktis adalah sederhana. Apakah pemimpin Anda memiliki pengetahuan yang diperlukan untuk menginterogasi solusi AI yang diusulkan dengan cerdas?

Ini tidak berarti pemimpin perlu terjun ke dalam kode. Pemimpin di semua tingkat harus menunjukkan kompetensi kontekstual. Artinya mereka dilatih dalam faktor-faktor yang dapat mempengaruhi atau mempengaruhi penilaian mereka tentang sistem AI. Faktor-faktor ini akan berubah berdasarkan peran pemimpin. Secara khusus, cakupan keputusan yang mereka tanggung.

Ringkasnya, ujiannya adalah ini: apakah mereka tahu pertanyaan apa yang harus diajukan? Misalnya, dapatkah seorang eksekutif mengidentifikasi faktor manusia dan teknis dengan dampak terbesar pada viabilitas dan profil risiko solusi AI yang diberikan? Baik secara umum maupun dalam konteks yang diterapkan.

Lebih baik: apakah mereka memahami keterbatasan teknologi? PR dan pemasaran cenderung fokus pada sisi positif, sementara pelatihan berbasis pengalaman mengungkap keterbatasan. Keterbatasan ini dapat menentukan rel kerja dan teknis yang diperlukan untuk mengirimkan solusi AI yang diberikan dengan menguntungkan. Dalam hal ini, sejauh mana pemimpin memahami dan mengidentifikasi keterbatasan tersebut sering kali menjadi perbedaan antara adopsi yang bermakna dan kegagalan.

Mengapa kesetaraan gender dalam kepemimpinan AI merupakan isu yang sangat penting saat ini – dan apa risiko yang kita hadapi jika perempuan tetap menjadi pengadopsi pasif daripada pembentuk aktif dari pengembangan dan tata kelola AI?

Saya beruntung bekerja, berbicara dengan, dan belajar dari perempuan yang bekerja di semua aspek AI setiap hari. Jadi, kerangka perempuan sebagai pengadopsi pasif, bagi saya, mengingatkan gambaran yang seperti anak-anak dan menyesatkan. Perempuan secara aktif terlibat dalam memimpin upaya AI, meskipun dalam jumlah yang lebih kecil dari populasi terdidik yang kita harapkan.

Ketidaksetaraan gender di teknologi adalah masalah yang multifaset yang mendahului AI. Tidak ada solusi tunggal karena ada banyak faktor yang bermain. Beberapa di antaranya menghasilkan less pendanaan untuk dan/atau pengakuan perempuan di bidang tersebut. Membuatnya sangat ironis bahwa perempuan yang menerima pengakuan luas sering bekerja dalam AI yang bertanggung jawab atau etis. Awalnya diberi label sebagai anti-AI, pekerjaan mereka sekarang sedang dipertimbangkan kembali karena sikap berkembang.

Tanpa intervensi yang disengaja, kita berisiko memiliki sistem AI yang memperburuk ketidaksetaraan yang ada dalam skala besar. Kita melihat ini dalam penggunaan sistem penyaringan dan perekrutan HR yang otomatis yang lebih memilih kandidat laki-laki karena bias sejarah yang ditangkap dalam data.

Kurangnya keberagaman pada semua tingkat berarti bahwa keputusan tentang jenis sistem AI yang dibangun, bagaimana mereka diterapkan, perspektif dan kebutuhan siapa yang mereka tangani dan siapa yang tidak, ditentukan oleh kelompok yang semakin terisolasi. Ini buruk untuk semua orang. Tim manajemen yang beragam menghasilkan hasil bisnis yang lebih baik. Tim produk yang beragam memberikan solusi AI yang lebih kuat, lebih tangguh, dan bekerja lebih baik.

Di akhirnya, jika sistem AI tidak menangani perspektif dan kebutuhan perempuan (atau demografi yang terpinggirkan lainnya) atau terbukti secara aktif merugikan, apa insentif untuk adopsi? Kecuali, tentu saja, bahwa sistem ini akan diterapkan dengan atau tanpa partisipasi kita. Dengan memasukkan suara yang beragam dan menegakkan tata kelola AI, memungkinkan untuk memenuhi janji AI.

Mengingat inovasi terbaru SAS – seperti agen AI dalam SAS Viya, kerangka pengambilan keputusan pintar, alat pembuatan data sintetis seperti Data Maker, dan model AI khusus – bagaimana perusahaan merancang kembali pipa kepemimpinan mereka untuk meningkatkan kelancaran AI dan kesetaraan?

Perusahaan menyadari bahwa cakupan dan dampak aplikasi ini melampaui kapasitas satu pembuat keputusan atau pelaku. Mengirimkan AI yang maju dengan sukses bergantung pada kepercayaan dan keterlibatan “desa”. Masalah potensial dan gotcha terlalu luas untuk satu pemimpin untuk secara efektif menanganinya sendiri.

Dalam mengakui kenyataan ini, perusahaan AI yang memimpin sedang bergeser ke praktek desain partisipatif dan tata kelola. Dalam model ini, kelancaran dan kesetaraan tidak ditingkatkan oleh program literasi dan pelatihan formal atau inisiatif HR saja. Tetapi oleh berbagi pengetahuan dan pengambilan keputusan kolektif yang terjadi ketika membawa perspektif yang beragam dari seluruh ekosistem perusahaan bersama. Kolaborasi ini tidak terbatas pada pembuat keputusan saja tetapi secara aktif melibatkan orang-orang yang pekerjaannya akan dipengaruhi oleh sistem AI yang sedang dipertimbangkan. Sementara sebagian besar domain lembaga publik dan pemerintah saat ini, beberapa organisasi telah secara aktif melibatkan pemangku kepentingan eksternal termasuk kelompok pelanggan dan organisasi kepentingan publik.

Apa langkah praktis yang dapat diambil oleh pemimpin yang aspiratif – terutama perempuan – untuk membangun kredibilitas dan kekuatan dalam pasar yang semakin didorong oleh AI?

Pertama adalah untuk mengakui bahwa kita memiliki kekuatan. Setiap individu memiliki kesempatan untuk mempengaruhi pengembangan AI dengan berbagai cara: melalui konsumsi dan penggunaan alat AI tertentu yang disengaja; melalui advokasi dan keterlibatan kolektif dalam forum masyarakat dan politik lokal; dengan bergabung dengan grup minat karyawan atau jaringan juara masyarakat (dan jika mereka tidak ada, dengan memulainya); dan dengan mengangkat tangan untuk berpartisipasi dalam program AI atau memimpin inisiatif di tempat kerja.

Kedua, adalah untuk berinvestasi pada literasi Anda sendiri pada tingkat yang masuk akal bagi Anda. Ada banyak sumber daya online yang mencakup kursus tentang tata kelola AI dan etika, hingga kelas pengantar online yang mencakup spektrum kemampuan AI secara penuh. Banyak dari opsi ini disediakan secara gratis atau dengan biaya nominal.

Akhirnya, bergabung dan berkontribusi secara aktif pada grup jaringan industri AI atau minat khusus. Ini memberikan kesempatan untuk tidak hanya berbagi pengetahuan tetapi mengkurasi hubungan yang dapat menyediakan mentor, aliansi, dan kredibilitas ketika Anda membangun keahlian dan jaringan Anda.

Anda telah lama menekankan transformasi budaya, tata kelola data, dan adopsi teknologi yang bertanggung jawab. Bagaimana elemen-elemen dasar ini mendukung pengembangan pemimpin yang siap AI?

Jawaban tradisional adalah bahwa fondasi ini membekali pemimpin dengan alat untuk menangani kompleksitas, mengelola risiko, mengurangi biaya, dan meningkatkan produktivitas. Semua hasil ini benar, namun manfaat yang paling tidak dihargai dari praktek ini adalah kepercayaan diri.

Jika dilakukan dengan benar, elemen-elemen ini menciptakan lingkungan di mana karyawan dapat bereksperimen dan berinovasi dengan percaya diri dalam batas etos bisnis, hukum, dan etika perusahaan.

Ini sangat penting karena solusi yang tersedia mulai dari alat produktivitas pribadi hingga alur kerja yang tertanam. Keputusan tentang penggunaan AI tidak hanya terjadi di ruang rapat atau dalam konteks proyek AI formal. Dari pengembangan hingga eksplorasi hingga penerapan dan seterusnya, sejumlah faktor yang berkompromi mempengaruhi bagaimana sistem tersebut berperforma dan dipersepsikan.

Penuntun yang responsif memungkinkan individu dan tim di semua tingkat untuk secara aktif bereksperimen, membuat keputusan tepat waktu tentang jika dan bagaimana untuk memajukan solusi, dan membangun yang lebih baik dalam kerangka sistem peraturan.

Dari percakapan di podcast Pondering AI Anda, apa wawasan tentang kepemimpinan yang bertanggung jawab dan inklusif yang paling kritis untuk organisasi yang mengemudi transformasi AI?

Bahasa AI licin. Kami berbicara tentang sistem AI yang berpikir, mengalami halusinasi, dan bahkan berperilaku buruk. Kami mengkonseptualisasikan sistem AI sebagai rekan tim atau rekan. Sehingga kita tergoda untuk mentransfer asumsi dan harapan dari manusia ke AI. Dengan demikian kita kehilangan fokus pada akuntabilitas manusia, partisipasi, dan penggunaan yang bertanggung jawab. Kami juga mengaburkan ketat yang diperlukan untuk mengirimkan sistem AI yang kuat dan tangguh yang, ketika dilakukan dengan baik, tampak sederhana.

Ini membuatnya kritis untuk memusatkan pemahaman kita tentang AI sebagai upaya manusia yang bawaan. Meskipun narasi antropomorfik yang prevalen, sistem AI selalu mencerminkan nilai dan niat pembuatnya: masalah yang kita pilih untuk memecahkan, teknik atau model yang kita terapkan, data yang kita gunakan dalam pelatihan, dan bagaimana pengguna berinteraksi dengan sistem. Setiap sistem AI adalah produk dari keputusan manusia ini.

Kepercayaan dan kepercayaan pada sistem AI tidak datang dari AI. Manusia akhirnya memutuskan untuk mengotomatisasi atau meningkatkan pekerjaan seseorang. Ini bukan sistem yang menentukan tingkat akurasi atau keterjelasan yang cukup. Ini bukan AI yang menentukan model interaksi pengguna yang paling sesuai. Ketika chatbot berperilaku buruk, itu tidak mempengaruhi AI; itu merusak merek dan garis bawah perusahaan yang menggunakan AI.

Oleh karena itu, AI yang berpusat pada manusia adalah kunci.

Banyak organisasi telah memiliki alat AI yang maju – tetapi masih bergelut dengan budaya, tata kelola, dan inklusi. Dari pengalaman Anda, apa intervensi atau pola pikir yang membantu organisasi menjembatani kesenjangan itu secara efektif?

AI, seperti banyak teknologi yang muncul, rentan terjatuh ke dalam siklus hype yang sama seperti pendahulunya. Selama era data besar, menjadi data-driven adalah semua gembira. Sedikit organisasi yang memenuhi visi mereka. Mereka yang melakukannya adalah disiplin dalam memecahkan masalah yang dapat diidentifikasi seperti mengurangi waktu pengiriman untuk X atau memungkinkan self-service untuk Y. Tidak mengherankan bahwa banyak dari perusahaan yang sama sekarang adalah pemimpin industri di AI.

Ketika mengidentifikasi inisiatif AI, mulailah dengan tujuan bisnis yang jelas dan hasil yang dapat diukur, lalu identifikasi teknik AI yang tersedia yang sesuai untuk tujuan. Tahan keinginan untuk menjadi mencolok. Solusi inovatif untuk masalah membosankan akhirnya membayar dividen. Tangani proses dan tugas yang membosankan dan berulang yang terjadi dalam skala besar.

Anda tidak akan selalu berhasil. Tetapi dengan memfokuskan perhatian dan investasi Anda dengan hasil bisnis dalam pikiran, Anda memungkinkan probabilitas kesuksesan tertinggi.

Ketika sistem AI menjadi lebih otonom dan tertanam dalam pengambilan keputusan – melalui alat seperti agen AI dan asisten copilot – apa garis penjaga etis atau struktur tata kelola yang Anda percaya esensial untuk mempertahankan kepercayaan, transparansi, dan kesetaraan dalam kepemimpinan?

Di SAS, kami mendefinisikan tata kelola AI melalui lensa pengawasan, kepatuhan, operasi, dan budaya. Terlepas dari kerangka yang Anda adopsi, ada dua faktor yang saya tekankan.

Pertama adalah bahwa setiap aplikasi AI, bahkan jika dibangun di atas model atau kumpulan data yang sama, harus dievaluasi secara independen dan secara terus-menerus. Apa yang berhasil untuk pemasaran mungkin tidak berlaku untuk keuangan. Tingkat kesalahan yang dapat diterima untuk karyawan akan tidak efektif dalam interaksi pelanggan. Selain itu, karena sifat probabilistiknya, perubahan perilaku pengguna, aliran data dasar, dan sejumlah faktor lain dapat dengan cepat mengubah perilaku dan output sistem AI.

Kedua adalah bahwa etika AI dan tata kelola tidak ada dalam vakum. Sifat solusi ini memerlukan kolaborasi dengan tata kelola perusahaan, kepatuhan hukum dan regulasi, manajemen risiko perusahaan, dan keamanan siber. Dengan memanfaatkan dan memperluas praktek ini daripada menciptakannya kembali dapat memberikan awal yang berjalan.

Menghadap ke depan, bagaimana Anda melihat kompetensi kepemimpinan berubah dalam dunia yang didorong oleh AI – dan apa implikasinya untuk organisasi yang tidak membudidayakan kelancaran baru tersebut?

Saya percaya bahwa penglihatan ke depan dan ketahanan akan menjadi semakin penting. Perubahan yang cepat mendorong pemimpin untuk terus menilai dan menyesuaikan strategi dan taktik bisnis karena teknologi berkembang. Pemimpin harus menilai nilai, viabilitas, dan risiko di berbagai cakrawala waktu dan perspektif. Mengingat sifat sosioteknis AI, perspektif tersebut harus semakin mencakup tidak hanya pemegang saham, tetapi juga pelanggan, karyawan, dan terkadang masyarakat secara luas. Penglihatan ke depan diperlukan untuk menavigasi lanskap ini.

Ketahanan juga merupakan faktor dalam AI. Seperti yang Jordan Loewen-Colón dengan elok mencatat dalam referensi adopsi dan tata kelola AI: AI adalah proses, bukan sakelar. Kemampuan untuk secara sengaja belajar, beradaptasi, dan terus memperbaiki sambil tetap pada jalur umum akan membedakan pemimpin dari yang lain.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi SAS.