AI’yi Yasaklamak Güvenlik Risklerini Artırır ve Kurumların Nasıl Yanıt Vermesi Gerektiği

Amerika Birleşik Devletleri’nde, okul bölgeleri ve kamu kurumları, üretken AI (GenAI) teknolojilerine veya belirli araçlara erişimi kısıtlamak veya engellemek için hareket ediyor. Colorado’da, Boulder Valley Okul Bölgesi recently ChatGPT’yi okul ağlarında yasakladı, kötüye kullanım, güvenlik ve akademik bütünlük endişelerini gerekçe göstererek.

Güvenlik olaylarına veya veri kötüye kullanımına maruz kalma riskini azaltma isteği anlaşılabilir. DeepSeek gibi zayıf güvenlik önlemlerine sahip veya belirsiz gizlilik taahhütlerine sahip platformlar, kısıtlama ve incelemeyi hak eder. Ancak GenAI araçlarına erişimi yasaklamak, riski gerçekten azaltmaz; genellikle sadece gözden uzak ortamlara kaydırır.

College Board anketi, lise öğrencilerinin %84’ünün okul çalışması için GenAI kullandığını, ancak %45’inin okulda AI erişimi konusunda bazı kısıtlamalar olduğunu buldu. Benzer şekilde, IBM raporuna göre, ofis çalışanlarının %80’i AI kullanıyor, ancak yalnızca %22’si yalnızca işveren tarafından sağlanan araçlara güveniyor.

Erişim politikaları alone davranışları belirlemiyor. Öğrenciler, AI aracını cep telefonlarından kullanabilir veya evde veya kamu Wi-Fi’de kullanabilir. Ayrıca kısıtlamaları atlatmak için VPN’ler, uzaktan masaüstü ve eklentiler kullanabilir. Çalışanlar da işyeri kontrollerini atlatmak için aynı şeyi yapabilir.

Kurumlar, AI’yi kullanma isteği varsa, bir yol bulacaklarını varsaymalıdır. Teknoloji, kurumsal görünürlük ötesine itildiğinde, gölge AI riski artar. Hangi bilginin.prompt’lara girildiği veya model tarafından hangi verilerin saklandığı konusunda hiçbir denetim yoktur. Güvenlik üzerindeki herhangi bir kontrol hemen kaybolur.

Gölge AI riskinin ötesinde, yasaklar, öğrencileri gelecekte büyük ölçüde yer alacağı teknolojiyi kullanmaya tam olarak hazırlamayan bir okuryazarlık açığı yaratır. Bu araçlar, arama motorlarında, iş platformlarında, üretkenlik paketlerinde ve kişisel cihazlarda giderek daha fazla yer alıyor. Pew Research anketi, ABD’li yetişkinlerin %62’sinin en az birkaç kez haftada AI ile etkileşime girdiğini buldu. Kurum politikalarına bakılmaksızın, öğrencilerin ve çalışanların GenAI sistemleriyle karşılaşacağı neredeyse garantidir.

Bu ortamda, kötüye kullanım veya güvenlik endişelerine karşı en güvenilir koruma, eğitimdir ve öğrencilerin ve işçilerin bu araçları kullanmaya hazırlanmasını sağlar. Sorumlu ve etik kullanımın öğretilmesi, kullanıcıların veri risklerini tanımalarına ve bu sistemlerle karşılaştıkları her yerde bilinçli kararlar almalarına olanak tanır.

Eğitim programları, büyük dil modellerinin (LLM’ler) veri işleme ve saklama şeklini, nasıl hallucinations tanınacağını, nasıl AI tarafından üretilen çıktıların doğrulanacağını ve nasıl phishing kampanyaları ve AI tarafından üretilen görsellerin tanınacağını öğretmelidir. Kullanıcıları şüpheci olmaya teşvik edin. AI çıktıları genellikle kendinden emin ve iyi düzenlenmiş bir dilde sunulur, bu da otorite izlenimi yaratabilir. Eğitim olmadan, kullanıcılar, iyi biçimlendirilmiş bir cevabın otomatik olarak doğru olduğunu varsayabilir.

Dijital içeriği sorgulama yeteneği, derin sahtecilik ve AI destekli phishing kampanyalarının daha da sofistike hale geldiği bir ortamda ilk savunma hattıdır. Gartner anketi, kurumlarda %62’sinin geçen yıl derin sahtecilik saldırısına maruz kaldığını ve %32’sinin AI uygulamalarına yönelik saldırıya maruz kaldığını buldu. Bu tür olayların sıklığı ve kapsamı yalnızca artmaya devam edecek.

Kamu kurumları, okullar ve yerel yönetimler, faaliyetlerinin büyük部分inin kaydedildiği ve kamuoyuna açık olduğu için, derin sahtecilik destekli sosyal mühendislik için özellikle açıktır. Kamu toplantılarından ses parçaları değiştirilebilir ve inandırıcı ses çağrıları oluşturmak için kullanılabilir. Bu, fonları duyarlı işlemler sırasında yönlendirmek için sahtekarlık gibi amaçlar için kullanıldığını gördük. Bu, genellikle hedefli durumlarda olur, ancak bu tekniklerin mümkün olduğunu bilmeyen veya tanımayan kullanıcılar, baştan itibaren dezavantajlıdır.

Eğitimden sonra, kurumlar, AI kullanımına ve yönetimine ilişkin açık politikalar olmalıdır. Bu politikalar, onaylı araçları, kabul edilebilir kullanım durumlarını ve hangi verilerin hangi model(ler)ine girilebileceğini tanımlamalıdır. Politikalar, departmanlar arasında tutarlı bir şekilde uygulanmalıdır, yoksa sınıftan sınıfa veya ofisten ofise değişmemelidir. Açık beklentiler belirsizliği azaltır ve sorumluluğu güçlendirir.

Genel kısıtlamalar yerine, kurumlar teknolojinin kullanımını şekillendirmelidir. Bir kurum, erişilebilir, güvenli ve iyi çalışan bir aracı onayladığında, çoğu kullanıcı için varsayılan olur. Gölge AI kullanımı, VPN indirerek kullanmak yerine basit bir alternatif olduğu için azalır.

Kurumlar ve kurumlar, LLM’lere güvenli erişim sağlamak ve verilerini güvence altına almak için çalışıyorlar, böylece bu veriler paylaşılmaz veya eğitim için kullanılmaz. AI etkinleştirme ve güvenlik araçlarının yeni bir kategorisi ortaya çıkıyor. Birden fazla LLM’ye erişim sağlayabilir ve kurumun verilerini güvenli bir şekilde kapsülleyebilir. Zero veri saklama anlaşmaları, kurumun verilerinin şirketin veya kurumun mülkiyetinde kalmasını sağlayan yasal çerçeveyi sağlar ve LLM’nin bu verilerle eğitilmesini engeller. Ayrıca, bir çalışanın kurumdan ayrılması durumunda, AI kullanımı, iş akışları veya veriler kurumun mülkiyetinde kalır.

Özellik düzeyinde teknik güvenlik önlemleri uygulanabilir. Bir kurum, onaylı bir LLM içinde genel sorular sormaya izin verebilir, ancak dosya yüklemeleri, belge paylaşımı veya diğer yüksek riskli özellikler devre dışı bırakabilir. Bu yapılandırmalar, veri açığını açmadan üretkenlik avantajlarını korur.

Daha gelişmiş araçlar, hassas bilgileri modelle ulaşmadan önce otomatik olarak anonim hale getirebilir. Örneğin, doktorlar ve hemşireler, hasta isimlerini veya tanımlayıcıları nötr yer tutucularla değiştirerek, GenAI’yi korunan verilerle kullanmadan önce kullanabilir. Diğerleri, sosyal güvenlik numaraları, finansal hesap verileri veya diğer düzenlenmiş bilgileri prompt’larda sunulmasını tespit eden ve engelleyen veri kaybını önleme kontrolleri entegre eder.

Açık politikalar, teknik güvenlik önlemleri ve eğitim üzerine inşa edilen savunma, özellikle teknoloji çok hızlı değiştiğinde en iyi savunmadır. GenAI, çoğu kamu kuruluşundan ve bütçelerinden daha hızlı evrimleşiyor. Her yeni model ortaya çıktıkça onu engellemeye çalışmak sürdürülemez, çünkü bir platform kısıtlandığında, bir diğeri already popülerlik kazanmış olur. Kullanıcılar, altta yatan riskleri anlarlarsa, araçlar ve sürümler arasında adapte olabilir.

AI destekli bir ortamda güvenlik, GenAI’nin günlük yaşamın bir parçası haline geldiği gerçeğini kabul etmeyi gerektirir. Cini şişeye geri koymak mümkün değil. Genel yasaklar, görünür, yönetilebilir riski görünmez, yönetilemez maruziyete ticaret ediyor. Bir kişiye AI’yi sorumlu bir şekilde kullanmayı öğretin ve her şeye hazırlar.