AI Yönetim: Çoğu İçin Bir Sorun, Azınlık İçin Bir Avantaj

Kurumsal AI, riski kimsenin hesaplayamadığı bir hızda biriktiriyor. AI ajanları, müşteri verilerine, üretim kodlarına ve önemli iş kararlarına dokunmaya başlıyor ve çoğu organizasyonda, çok farklı bir teknoloji döneminde tasarlanan kontroller tarafından yönetiliyor. Aynı zamanda, şirketlerin dayanabileceği dış destekler de azalıyor. Önde gelen AI laboratuvarları gönüllü güvenlik taahhütlerini geri çekti, ve düzenleme stiller arası olarak parçalı kaldı. Güven yükü, AI’yi uygulayan şirketlere düşüyor, çünkü sonunda olumsuz sonuçlar ortaya çıktığında ve ortaya çıktığında onlar etkilenecek.

Stratejik AI çalışması yapıyorum ve几乎 her endüstrideki şirketlerle konuşuyorum. Görüştüğüm CEO’lar ve yönetim kurullarıyla görüştüğüm tutarlı bir model var: uygulama hızlanıyor, ancak kontrol altyapısı aynı hızda ilerlemiyor. Model o kadar tutarlı ki, bunu yapısal bir sorun olarak görüyorum, herhangi bir şirketin başarısızlığı olarak değil, ve bir tahminde bulunacağım: CEO’lardan birinin, büyük bir hatanın şirketin milyonlarca dolar kaybetmesine neden olacağını açıklaması uzak değil, ve AI’yi suçlayacaklar. nazikçe öneriyorum ki, bu bir mazeret değil.

İyi haber, birkaç şirketin yönetim approachunu farklı şekilde ele aldıklarını ve bu şirketlerin, diğerlerinin kenarda beklerken, zaman içinde birikecek bir uzun vadeli avantaja sahip olduklarını düşünüyorum. Azınlığın ne gördüğünü anlamak, şimdiki yönelimin nereye gittiğini anlamaktan başlıyor.

Problemle Karşı Karşıyayız

Bugünün uygulamaları, insan denetiminin riski absorbe edebileceği kadar küçüktür. Deloitte’in son Kurumsal AI Durumu araştırması buldu ki, sadece dörtte bir şirket, en az %40’lık AI deneylerini üretime geçirdi. Çoğu kuruluş masih erken aşamadadır, birkaç ajanı dar kullanım örneklerinde, insanların her çıktıyı izlediği bir ortamda çalıştırıyor.

Önemli olan yönelim. Uygulamalar iki ajandan 20’ye, 200’e, 2.000’e ve ötesine ölçeklendiğinde, karmaşıklık artar. Her yeni ajan, kendi davranışını, temas ettiği her sistemi ve birlikte çalıştığı her diğer ajansı getirir. İki ajanda güven kolaydır: ekibinizi tanıyorsunuz ve çıktıları kendiniz inceleyebilirsiniz. 20 ajanda, güven bir süreç haline gelir, tanımlanmış sahipler, testler ve eskalasyon yollarıyla. Hala çalışabilir, ancak sürdürmesi giderek zorlaşıyor. 200 ajanda, gayri resmi inceleme tiyatro haline geliyor, çünkü hiçbir yönetim ekibi o kadar fazla aktiviteyi gözden geçiremez. 2.000 ajanda, insan faktörü neredeyse anlamsız hale geliyor, çünkü ajanlar, veriler ve iş süreçleri arasındaki etkileşimler, manuel denetimin kapsayamayacağı bir ağ oluşturuyor. Bu ölçekte, güven de ölçeklenebilir olmalı ve şirketin teknik altyapısına gömülmelidir.

Beklemenin Maliyeti

Eksik güven altyapısı, hayal kırıklığına uğrayan getirilerin bir diğer nedenidir. PwC’nin son Küresel CEO Anketinde, CEO’ların %56’sı, AI’nin geçen yıl gelir artırmadığını veya maliyet azaltmadığını söyledi. Deneyimlerime göre, bildirilen getiriler de, altta yatan ekonomi incelendiğinde, weniger inandırıcı görünüyor. Çoğu şirket, saat tasarrufu sayıyor ve bunu yatırım getirisi olarak adlandırıyor. Saat tasarrufu, ancak organizasyon bu kapasiteyi daha değerli bir şeye dönüştürdüğünde, yani daha büyük çıktı, daha iyi kalite, kaçırılmış maliyet, daha hızlı büyüme vs. finansal getiriye dönüşüyor.

Bu dönüşüm güven gerektirir. Bir organizasyon, sistemlerin daha düşük değerli işleri devralmasını ancak liderlik sistemlere güvendiğinde, insan yargısını daha değerli işlere yönlendirebilir. Güven yoksa, şirketler teknik borç biriktirir, bu da zamanla verimliliği önemli ölçüde etkiler. Bu, her iki dünyanın en kötüsü: artan harcama, ancak gösterilebilecek bir şey yok. Güven, bu getirilerin biriktiği temel.

Asansör Problemi

Güven ve benimseme arasındaki bağlantı yeni değil, ve makul bir referans noktası olarak 20. yüzyılın ortalarına geri dönebiliriz. Sürücüsüz asansörler decades önce vardı, ancak kimse binmek istemiyordu. Teknoloji çalışıyordu, ancak yolcular bir araca giriyor, operatör görmüyor ve geri çıkıyordu. Değişen asansör değildi, asansörün etrafındaki güvenlik kontrolleriydi. 1945’te operatörlerin grevi New York’taki ofis binalarını kapattığında, endüstri asansöre güven inşa etti: acil durma düğmesi, telefon hattı, kapıların yeniden açılması ve bir ses kaydı ne yapacağını açıkladı. Bir nesil içinde, bir operatör olmadan asansöre binmek o kadar sıradan hale geldi ki, bir operatörün bulunduğu asansöre girmek eskimiş hissetti. İnsanın döngüden çıkarılmasına engel, yetenek değildi. Güveniydi, ve endüstri bunu, görünür, doğrulanabilir kontrolleri sisteme yerleştirerek ve her yolcunun görebileceği şekilde çözdü.

Kurumsal AI, asansöre binip, operatör görmeyip, geri çıkan aşamadadır. Liderlik ekipleri, bir operatör olmadan çalışan ajanları görüyor ve tereddüt ediyor, ve tereddüt mantıklı: çoğu organizasyon henüz asansördeki stop butonunun, telefon hattının, kapıların yeniden açılmasının ve ses kaydının eşdeğerini inşa etmedi. Sistemlerine bu kontrolleri inşa eden şirketler, insanların, müşterilerin ve düzenleyicilerin binip kalacağı şirketler olacak.

Satıcılar Sadece Bir Kısmını Taşıyabilir

Çoğu lider, AI satıcılarının güven yükünü taşıyacağını umuyor. Satıcılar, model seviyesinde güvenlik önlemleri ve güvenlik kontrolleri sağlayabilir, ve iyi olanlar bunu yapıyor. Bir particular uygulamanın sizin verileriniz, düzenleme yükümlülükleriniz, müşterileriniz ve risk toleransınız için uygun olup olmadığını kararlaştırmak sizin işiniz, çünkü satıcı, bunu yapabilecek bağlamı yok. Sizin yükümlülüklerinizi görmedi, ve bir kötü sonuç size ne mal olacağını fiyatlandırmanın bir yolu yok.

Bir satıcının güvenlik taahhüdü, modelini kapsar, sizin kullanımınızı değil. Ayrıca kalıcı değil: geçmiş yıl gösterdi ki, bu taahhütler değiştirilebilir veya geri çekilebilir. Düzenlenen endüstriler, üçüncü taraf modelleri için bu soruyu uzun zaman önce çözdü, ve ulaştıkları standart, doğru standart: modeli uygulayan kurum, riski taşır.

Azınlığın Yaptığı

Öne geçen şirketler üç hamle yapıyor:

1. Kontrol altyapısını şimdi inşa ediyorlar, ulaşmayı amaçladıkları ölçek için, şu anki ölçek için değil, çünkü kontroller, onlara ihtiyaç duyan ajanlardan önce olmalı.
2. Risk sınıflandırması ve azaltmayı, uygulamaya başlarken, değil de sonradan bir inceleme kapısı olarak, her kullanım örneğinin sınıflandırıldığını ve kontrollerin risk oranında olduğunu garanti ediyorlar.
3. Ve bağımsız bir yönetim kuruluyla, gerçek yetkiye sahip, sistemlerin amaçlandığı gibi davranmasını doğrulamak için, teknolojiyle birlikte esnek bir şekilde gelişecek şekilde kuruluyor. Bağımsızlık, doğrulamayı inandırıcı kılıyor. Esneklik, güncel kalmasını sağlıyor.

Azınlık için, birkaç düzenleyici, AI kullanımına ve denetimine ilişkin açık kurallar koymadı, ancak rehberlik için bakabileceğimiz şeyler var. Düzenleyiciler, geleneksel modelleri yönetmek için iyi kurulmuş kurallara sahip, ve bunları kullanabiliriz. Nisan ayında, Federal Rezerv, OCC ve FDIC, gözden geçirilmiş model risk rehberi yayınladı, on yıllar süren uygulamaları yansıtan, ilke bazlı bir yaklaşım, model envanterleri, risk bazlı kontroller, bağımsız doğrulama, sürekli izleme ve kurumların satıcı ürünlerinden sorumlu olduğu bir yaklaşım, ve kurumları, aynı uygulamaları AI için uygulamaya yönlendirdi. Mesaj açık: çalışan ilkeler biliniyor, ve resmi AI kuralları yakın zamanda gelmeyecek. Düzenleme açıklığı bekleyen şirketler, azınlık tarafından hareket ederken bekleyecek. Bu nedenle, ağır düzenlenen endüstriler, thường olarak yavaş olarak tanımlanan, bu döneme başlangıç avantajıyla giriyor. Onlar, herkesin şimdi ihtiyaç duyduğu güven mekanizmasını inşa etmek için on yıllar harcadı, ve izin beklemiyorlar.

Önemli Soru

Ayrım zaten oluşuyor. Çoğu şirket, yönetimi bir maliyet olarak görüyor: bir şey absorbe ediliyor, dayanılıyor ve minimize ediliyor. Azınlık, bunu, insanları daha değerli işlere yönlendirmelerine ve güvenle ölçeklenmelerine izin veren altyapı olarak görüyor. Her liderlik ekibi, bilinçli olarak seçilmiş olsun veya olmasın, diğer tarafında ve açığın ortaya çıkacağı ölçekten önce sessizce biriken bir uçurumun içinde. Bugün kimse, asansöre binmek için iki kez düşünmüyor, çünkü güven ona inşa edildi. AI için aynı şeyi yapan şirketler, hala asansöre binmeye karar vermeyen herkesi geçecek.