Hızlı Hareket Edin, Ama Hiçbir Şeyi Bozmayın: Sorumlu Yapay Zeka Benimsemesi ve Yenilik Arasındaki Denge Nasıl Sağlanır?

Son küresel ankete göre McKinseyKuruluşların %78'i artık en az bir işlevi için yapay zeka kullanıyor olsa da, yalnızca %13'ü yapay zeka uyumluluk uzmanları işe almış ve yalnızca %6'sı kadrosunda yapay zeka etiği uzmanları bulunduruyor. 

Bu, açıkçası, pervasızca bir davranıştır.

Yakın geçmişte Silikon Vadisi'nin "hızlı hareket et ve şeyleri kır" felsefesine inanan biriydim ama daha önce gördüğümüz her şeyden daha güçlü ve ışık hızında büyüyen bir teknoloji olan yapay zeka konusunda bu kadar kaygısız olamayız.

AI'yı benimsemek Anlamlı bir bariyer olmadan, sonunda ters tepmesi ve kırılma riskiyle karşı karşıya kalması garanti olan hızlı hareket eden bir köşe kesme hareketidir her şeyYıllardır süregelen itibar marka inşasının boşa gitmesi için tek bir yapay zeka önyargısı veya kötüye kullanımı olayı yeterli. 

Ve birçok CIO ve CTO bu risklerin farkında olsa da, düzenleyicilerin sonunda devreye girip kendi çerçevelerini oluşturmalarını engelleyecekleri varsayımıyla hareket ediyor gibi görünüyorlar; bu da çok az gerçek denetimle risk hakkında çok fazla konuşulmasına neden oluyor. 

Düzenlemelerin sonunda geleceğinden şüphem yok, ancak yakın zamanda yürürlüğe gireceklerinden pek emin değilim. ChatGPT yaklaşık üç yıl önce tanıtıldı ve Senato Yargı Toplantısı gibi şeyleri yeni yeni görmeye başlıyoruz. sohbet robotları ve güvenlik riskleri Gerçek şu ki, anlamlı bir düzenleme görmemiz yıllar alabilir. 

Bunu iç yönetişimi ertelemek için bir bahane olarak kullanmak yerine, işletmelerin daha proaktif bir yaklaşım benimsemesi gerekir. Özellikle de düzenlemeler nihayet yürürlüğe girdiğinde, kendi çerçeveleri olmayan şirketlerin uyumluluğu yeniden düzenlemek için çabalayacağı düşünüldüğünde. GDPR ve CCPA yürürlüğe girdiğinde tam olarak böyle oldu. 

Tıpkı 2000'li yılların başlarındaki hırçın girişimlerin, büyüdükleri kurumsal teknoloji devleri olarak artık daha yüksek standartlara tabi tutulduğu gibi, biz de yapay zekayı sorumlu bir şekilde benimseme yaklaşımımızda hep birlikte olgunlaşmalıyız. 

Sorumlu yapay zeka dağıtımlarında "şimdi al, sonra öde" diye bir şey yoktur - hemen başlayın

Yapay zekaya daha sorumlu bir yaklaşımın ilk adımı, düzenleyicileri beklemeyi bırakıp kendi kurallarınızı belirlemektir. Bugün güvenlik önlemlerinden kaçınarak elde ettiğinizi sandığınız avantaj, gelecekte son derece pahalı ve yıkıcı bir iyileştirme süreciyle karşı karşıya kaldığınızda sizi olumsuz etkileyecektir. 

Elbette, çoğu kişi için sorun nereden başlayacağını bilememek. Şirketim yakın zamanda ankete Büyük işletmelerdeki 500 CIO ve CTO ve bunların neredeyse yarısı (%48), etik yapay zeka kullanımını sağlamanın önündeki bir zorluk olarak "yapay zekanın sorumlu bir şekilde kullanımı veya dağıtımının neleri kapsadığını belirlemeyi" gösterdi. 

Başlamak için kolay bir yol, odak noktanızı yapay zekanın mümkün kıldığı özelliklerin ötesine genişletmek ve olası riskleri göz önünde bulundurmaktır. Örneğin, yapay zeka kullanımı çalışanlara zaman kazandırsa da, aynı zamanda lisanssız ve onaylanmamış yüksek lisans (LLM) programlarıyla büyük miktarda Kişisel Tanımlayıcı Bilgi (PII) verisi veya ticari sır paylaşılma olasılığını da beraberinde getirir.

Günümüzde her dijital şirket, kaliteli ürünler geliştirmek için bir çerçeve sunan Yazılım Geliştirme Yaşam Döngüsü'ne (SDLC) aşinadır. Yapay zeka yönetiminin en iyi uygulamaları, sorumlu karar almanın sonradan akla gelen bir şey değil, rutin bir süreç haline gelmesini sağlamak için günlük iş akışına entegre edilmelidir. 

Etik komite veya yönetim kurulu gibi bir yönetim organı, yapay zekâ uygulamalarının kuruluş içinde gerçekte nasıl görüneceğine dair standartları ve benzer şekilde bu standardın nasıl izlenip sürdürüleceğine dair ölçütleri belirlemelidir. İşlevsel olarak bu, yapay zekâ araçları ve model yönetimi, çözüm onayları, risk yönetimi, düzenleyici ve standartlara uyum ve şeffaf iletişim gibi görünmektedir. Teknik olarak "yeni" bir süreç olsa da, veri en iyi uygulamalarından ve siber güvenliğin sağlanmasından çok da farklı değildir ve herhangi bir sorunun erken tespitini sağlamak için otomatikleştirilebilir. 

Elbette, tüm riskler aynı düzeyde dikkat gerektirmez, bu nedenle ekibinizin çabalarının çoğunu yüksek öncelikli olarak tanımlanan konulara odaklayabilmesi için kademeli bir risk yönetimi süreci geliştirmek de önemlidir. 

Son olarak ve en önemlisi, hem şirket içinde hem de şirket dışında yönetişim uygulamaları hakkında açık ve şeffaf bir iletişim son derece önemlidir. Bu, yönetişim standartları için canlı belgelerin tutulmasını ve ekiplerin güncel kalmasını sağlamak için sürekli eğitim sağlanmasını içerir. 

Yönetişimi inovasyon için bir tehdit olarak görmeyi bırakın

Gerçek tehdidin bu olması çok olasıdır sorumlu AI Yönetişim ve inovasyonun birbiriyle çeliştiği inancıdır. Anket verilerimiz, CIO ve CTO'ların %87'sinin aşırı düzenlemenin inovasyonu sınırlayacağını düşündüğünü ortaya koydu.

Ancak yönetişim, bir tür inovasyon frenleyicisi olarak değil, stratejik bir ortak olarak ele alınmalıdır. 

Yönetişimin ivmeyi yavaşlatan bir sürtüşme unsuru olarak görülmesinin bir nedeni, genellikle ürün geliştirme sürecinin sonuna bırakılmasıdır; ancak bariyerler sürecin bir parçası olmalıdır. Yukarıda belirtildiği gibi, yönetişim, bir ürün ekibinin hızlı hareket edebilmesi için sprint döngülerine entegre edilebilir ve bu esnada adalet, önyargı ve uyumluluk için otomatik kontroller paralel olarak çalışır. Uzun vadede bu, müşteriler, çalışanlar ve düzenleyiciler sorumluluğun en baştan itibaren dahil edildiğini gördüklerinde kendilerini daha güvende hissettikleri için karşılığını verir.

Ve bunun maddi getirisinin de olduğu kanıtlandı. Araştırma İyi uygulanmış veri ve yapay zeka yönetişim çerçevelerine sahip kuruluşların finansal performanslarında %21-49 oranında iyileşme sağladığını göstermiştir. Ancak bu çerçevelerin oluşturulamaması, kendi sonuçlarını da beraberinde getirir. Aynı araştırmaya göre, 2027 yılına kadar kuruluşların çoğunluğu (%60), "tutarsız etik yönetişim çerçeveleri nedeniyle yapay zeka kullanım senaryolarının beklenen değerini gerçekleştiremeyecektir." 

Yönetişimin inovasyon pahasına olması gerekmediği argümanına bir itiraz, hukuk ekiplerinin bu görüşmelere dahil olmasının işleri yavaşlatma eğiliminde olmasıdır. Ancak deneyimlerime göre, bir Yönetişim, Risk ve Uyumluluk (GRC) ekibi kurmak, hukuk ve ürün ekipleri arasında bir köprü görevi görerek işlerin sorunsuz ve hızlı bir şekilde yürütülmesinde büyük rol oynar. 

İyi yönetildiğinde, GRC ekibi hukuk ekibiyle olumlu ilişkiler kurar, sahadaki gözleri olur ve ihtiyaç duydukları raporları sağlar. Aynı zamanda, gelecekteki dava ve para cezası risklerini azaltmak için geliştirme ekibiyle iş birliği yapar. Sonuç olarak, bu durum yönetişime erken yatırım yapmanın, inovasyonu engellememesini sağlamanın en iyi yolu olduğunu daha da pekiştirir. 

Ölçeklenebilir gözetim ve yönetişim sistemleri oluşturun 

Ankete katılan CIO ve CTO'ların çoğu, düzenlemelerin inovasyonu sınırlayabileceğini düşünmesine rağmen, benzer şekilde büyük bir yüzde (%84), şirketlerinin önümüzdeki 12 ay içinde yapay zeka denetimini artıracağını öngördü. Yapay zeka entegrasyonlarının zaman içinde genişlemeye ve ölçeklenmeye devam etme olasılığı göz önüne alındığında, yönetişim sistemlerinin de bunlarla birlikte ölçeklenebilmesi aynı derecede önemlidir. 

İşletmelerdeki yapay zeka uygulamalarının ilk aşamalarında sıklıkla gördüğüm bir şey, işletme içindeki farklı birimlerin ayrı ayrı çalışarak, aynı anda farklı dağıtımlar yürütmeleri ve "sorumlu yapay zeka"nın ne anlama geldiğine dair farklı vizyonlara sahip olmalarıdır. Bu tutarsızlıklardan kaçınmak için, şirketlerin teknik, uyumluluk ve iş uzmanlıklarını bir araya getiren özel bir Yapay Zeka Mükemmeliyet Merkezi kurmaları akıllıca olacaktır. 

Yapay Zeka Mükemmeliyet Merkezi, hem şirket genelinde standartlar hem de düşük riskli kullanım durumları için bir geçiş yolu sunan kademeli onay süreçleri oluşturacaktır. Bu sayede hem hız korunur hem de yüksek riskli dağıtımların daha resmi güvenlik kontrollerinden geçmesi sağlanır. Benzer şekilde, Mükemmeliyet Merkezi, üst düzey yöneticiler için yapay zeka güvenlik KPI'ları (KPI) belirlemeli, böylece hesap verebilirlik günlük iş süreçlerinde kaybolmaz. 

Ancak bunu gerçeğe dönüştürmek için yöneticilerin yönetişim göstergesi takibinde daha iyi bir görünürlüğe ihtiyaçları var. Bu göstergeler hakkında gerçek zamanlı veri sunan panolar, anında eskiyen ve çoğu zaman okunmayan mevcut statik uyumluluk raporlarından çok daha etkili olacaktır. İdeal olarak, şirketler, siber güvenlik risklerini takip ettikleri gibi, yapay zeka risk kayıtları da oluşturmalı ve bir ML/AI uygulamasını kimin oluşturduğunu, nasıl test edildiğini ve zaman içindeki performansını yansıtan denetim kayıtları tutmalıdır. 

Buradaki en önemli çıkarım, sorumlu yapay zekanın yönetiminin sürekli bir süreç olması gerektiğidir. Bu, yalnızca lansman sırasında onay almakla ilgili değil, aynı zamanda modelin yaşam döngüsü boyunca sürekli izlemeyle ilgilidir. Bu nedenle eğitim çok önemlidir. Geliştiriciler, teknoloji uzmanları ve iş liderleri, sorunları erken tespit edebilmeleri ve sistemler geliştikçe yüksek yönetim standartlarını koruyabilmeleri için sorumlu yapay zeka uygulamaları konusunda eğitilmelidir. Bu sayede, yapay zeka dağıtımlarının süreçte hiçbir şeyi bozmadan daha güvenilir, etkili ve kârlı olacağı kesindir.