Gölgeli AI’ye Işık Tutmak

Endüstriler boyunca, işçiler her günkü operasyonları dönüştürmek için giderek daha fazla Yapay Zeka (AI) araçlarını kullanıyorlar. Pazarlama profesyonellerinin ChatGPT’yi kampanyalar oluşturmak için kullanması veya yazılım mühendislerin generatif araçlarla kod yazması olsun, AI neredeyse her işletme yönünü sessizce entegre ediyor. Aslında, MIT’in Proje NANDA çalışması, %90’dan fazla organizasyonda çalışanların günlük işlerini desteklemek için kişisel sohbet botu hesaplarını kullandığını, ancak yalnızca %40’ının büyük dil modeli (LLM) araçlarına resmi aboneliği olduğunu buldu. Bu, onaylı ve gizli AI kullanımı arasındaki bağlantısızlık, yeni bir güvenlik açığına yol açtı: gölgeli AI.  

Gözetim olmadan, hassas veriler dış modellere paylaşılabiliyor, çıktılar yanlış veya önyargılı olabiliyor ve uyum ekibi bilginin nasıl işlendiğini göremez hale geliyor. Çalışanlar onaylı kanallar dışında araçlar denediğinde, şirketler AI’yi yönetme stratejilerini yeniden düşünmelidir, yoksa bu riskler devam edecektir. BT müdürleri için AI araçlarını tamamen yasaklamak çözüm değildir, çünkü rekabet yeteneklerini etkileyebilir. Bunun yerine, odaklanma, inovasyonu sorumlu risk yönetimiyle dengeleyen esnek güvenlik önlemlerine verilmelidir.

AI ile ilgili risklerin önüne geçmek için şirketler, sorumlu benimsemeyi teşvik eden AI politikaları oluşturmalıdır. Bu rehberler, çalışanların AI’yi makul bir şekilde kullanmasını teşvik etmelidir ve herhangi bir politika, şirketin değerleri ve risk iştahıyla uyumlu olmalıdır. Başarılı bir program için şirketler, AI kullanımını tespit edemeyen veya izlemeyen eski yönetim modellerinden ve araçlardan uzaklaşmalıdır.

AI politikası oluşturmak önemli bir adımdır, ancak asıl mesele, bu politikaların pratik, uygulanabilir ve her işletmenin yenilikçi vizyonuna ve uyum ihtiyaçlarına uygun olarak tasarlanmasıdır, böylece ilerlemelerini engellememektedir.

İşletmeler aşağıdaki dört adımı takip edebilir:

1. En İyi Çerçeveyi Belirleme

İşletmeler sıfırdan başlamak zorunda değildir. Birkaç önde gelen kurum, AI’yi güvenli ve etkili bir şekilde yönetmek için değerli referans noktaları sunan çerçeveler geliştirdi. OECD, NIST ve ISO/IEC kaynakları, AI’yi yönetmede rehberlik sağlayabilir. Ayrıca, hükümetler adım atmaya başlıyor. Avrupa Birliği (AB) şeffaflık, hesap verebilirlik ve yönetim konusunda beklentiler oluşturuyor. Bu kaynaklar birlikte, şirketlerin kendi çerçevelerini oluşturup sorumlu AI benimsemesini yönlendirmek için güçlü bir temel sağlayacaktır.

2. AI Görünürlüğünü Artırma

Şirketler, etkili AI risk yönetimine doğru ilerlerken, güvenlik liderlerinin AI’nin iş boyunca nasıl kullanıldığını anlaması çok önemlidir. AI kullanımını izlemek ve erişimi olan araçlara yatırım yapmalıdır. Bu araçlar, kullanıcı davranışını izleyebilir ve generatif AI’nin nerede kullanıldığını belirlemek için hiçbir taşı atmaz. Bu bilgi, gölgeli AI kullanımını belirlemede ve liderlerin riskleri değerlendirmesine yardımcı olmak için çok önemlidir.

3. AI Konseyi Oluşturma

Görünürlük kurulduktan sonra, güvenlik liderleri bu bilgiyi yeni politikalar oluşturmak için kullanabilir. AI kullanımı tüm işletmeyi etkilediği için, karar alma sürecini izole etmemelidir. Bilgi Güvenliği Müdürleri, güvenlik, hukuk, BT ve üst yönetimden ana paydaşları bir araya getiren bir AI konseyi oluşturmayı düşünmelidir. Aslında, Gartner raporuna göre, %55’lik bir organizasyon zaten bir AI kurulu oluşturdu, %54’ü ise AI stratejisinin ve uygulamasının sorumlusu olarak bir AI başkanı atadı.

Bu çok fonksiyonlu gruplar, yetkilendirilmemiş AI araçlarının yanı sıra onaylı olanların getirdiği riskleri ve fırsatları değerlendirebilir. Sonra, şirketin ihtiyaçlarına hitap eden ve riski dengeleyen yeni politikalar oluşturabilirler. Örneğin, konsey, onaylanmamış bir AI aracının güvenlik endişeleri taşıdığını tespit ederse, bu uygulamayı yasaklayabilir ve daha güvenli bir alternatifi onaylayabilir. Bu politikalar, uyumluluk standartlarına uyan onaylı AI platformlarına ve güvenlik kontrollerine yapılan yatırımlarla desteklenmelidir. Yeni gelişmeler ortaya çıktıkça, konsey ayrıca çalışanların araçları onay için önermesini sağlayan resmi bir süreci tanıtabilir, böylece şirket AI stratejisiyle uyum içinde ve adaptif kalabilir.

4. AI Eğitimi Güçlendirme

Çalışanları AI hakkında eğitmek ve onlara katılmak, şirket çapında benimsemeyi güvence altına almak ve gölgeli AI kullanımını azaltmak için başka bir önemli adımdır. Doğru yönetim modelleri olsa bile, başarı, çalışanların bunları anlaması ve benimsemesine bağlıdır.

Pew Research anketine göre, iş başında eğitim alan çalışanların yalnızca %24’ü AI kullanımıyla ilgili eğitim aldığını belirtti. Şirketler, AI kullanımının fırsatlarını ve işlevlerini anlamalarına yardımcı olan AI eğitim programlarına sahip olmalıdır. Artan beceri kazandırma, çalışanların kariyerlerinde büyümelerine ve pozisyonlarında daha memnun olmalarına yardımcı olabilir.

AI eğitim programları, temel kullanım ve uyumluluk ötesinde, AI’nin daha geniş bağlamını ve işletme ekosisteminde nasıl çalıştığını anlamalarına yardımcı olmalıdır. Kapsanan konular, sorumlu AI kullanımının neden önemli olduğu, işyerini ve müşterileri korumak için hangi politikaların olduğu ve potansiyel veri işleme veya gizlilik risklerini nasıl tanımlayacağı olmalıdır. Çalışanlar doğru bilgiyle donatıldığında, güvenli bir şekilde yenilik yapma konusunda aktif ortaklar haline gelirler.

Sorumlu AI’nin Geleceğini Şekillendirme 

Gölgeli AI yakın zamanda ortadan kaybolmayacak. Generatif teknolojiler günlük iş akışlarına daha da entegre hale geldikçe, şirketler için zorluklar artacaktır. Liderler, gölgeli AI’yi kontrol edilemez bir tehdit olarak mı yoksa sorumlu bir şekilde yönetildiğinde verimliliği ve üretkenliği en üst düzeye çıkarmanın bir fırsatı olarak mı görmeye karar verecekler.

AI politikası veya kurulu geliştirmek bir kerelik bir eylem değildir. AI hızla evrilirken, bir şirketin stratejisinin de buna uygun olarak gelişmesi gerekir. AI, daha akıllı kararlar almayı, inovasyonu hızlandırmasını ve her fonksiyonda üretkenliği artırmaya yardımcı olabilir. Ancak bu kazanımları sürdürmek için, çalışanların hangi araçların mevcut olduğunu ve bunları sorumlu bir şekilde nasıl kullanacaklarını anlamaları gerekir. Başarılı olanlar, değişimi takip etmek yerine ona öncülük ederek politikalarını proaktif bir şekilde yenilemeye devam edeceklerdir.