AI’nın ‘Bilgisi’ 50 Yıl Önceyse: Ihmal Edilemeyecek Uyum Riski

Yanlış AI içgörülerinin sorunu, şirketlerin üretken araçları kullanmasını artırdıkça acil bir zorluk haline geliyor. AI benimsemesinin geniş çapta coşkusu olmasına rağmen, aynı zamanda güçlü bir eleştiri akımı da var. Eleştirel yorumcular genellikle AI’nın çıktısında görünen rastgele, öngörülemez yanlışlıklara dikkat çekiyorlar; bu, değerini azaltıyor ve sağlık ve ulaşım gibi sektörlerde gerçek zararlara neden olabilir.

Çoğu zaman, bu yanlışlıklar AI ‘halüsinasyonları’ olarak adlandırılıyor – AI’nın bir ‘en iyi tahmin’ cevabı ürettiği ve bunu gerçek bir cevapla aynı güvenle ilettiği durumlar. Halüsinasyonlar ilk bakışta zor tespit edilebilir, ancak daha sessiz, eşit derecede ciddi bir sorun var ve bunu tespit etmek daha zor.

Veri Kalitesi Borcu: AI’nın Achilles Topuğu

AI sistemleri güncellenmemiş, eksik veya yanlış verilere dayanıyorsa, yanlış çıktılar meydana gelir, ancak bunlar hemen anlaşılabilir değildir. Örneğin, bir tıbbi durumun semptomlarını tanımlamak için bir AI’ya sorduğunuzu ve cevabı 50 yıl önceki bir makaleden değil de güncel araştırmalardan alıyorsanız, sonuç ilk bakışta açıkça yanlış görünmeyebilir, ancak bu durum hastaya ve sağlık hizmeti sağlayıcısına gerçek bir risk oluşturur.

Aynı durum tüm endüstriler için geçerlidir – eğer AI modeline verilen veriler eski, güncellenmemiş veya kısmi ise, yanlış çıktılar riski yüksektir. Şirketler AI’ı iş açısından kritik süreçlere entegre ettikçe, kötü yönetilen verilerden yanlış sonuçlar çıkarma riski de artıyor.

Düzenleyici için Doğruuluk

Bu sadece günlük operasyonlar için bir sorun değil, aynı zamanda önemli bir uyum zorluğu. Düzenleyici gereksinimler, yanlış AI ile ilgili endişeleri ele almak için hızlı bir şekilde evrim geçiriyor. Örneğin, AI ile ilgili erken düzenleyici eylemler arasında İtalya’nın ChatGPT’yi geçici olarak yasaklaması ve AB Veri Koruma Kurulu’nun ChatGPT’ye karşı olası uygulama eylemlerini koordine etmek için özel bir görev gücü oluşturması yer alıyor.

En önemli düzenleyici değişikliklerden biri, dünyanın ilk kapsamlı AI yasal çerçevesi olan AB AI Yasası’nın kabul edilmesi oldu. Yasa, AI sistemlerinin risk seviyesine bağlı olarak yükümlülükler getiriyor – ‘kabul edilemez risk’ sistemleri yasaklanırken, ‘yüksek risk’ sistemleri şeffaflık, veri kalitesi, yönetim ve insan denetimi konularında sıkı gereksinimlere tabi tutuluyor.

AB AI Yasası’nın önemi, iddialı kapsamından değil, oluşturduğu örnekte yatıyor. Düzenleyiciler, AI’nın bağlayıcı, uygulanabilir kurallara tabi olacağını ve şirketlerin AI benimsemesinin bir parçası olarak uyum ve şeffaflığı düşünmesi gerektiğini vurguluyor.

Yasa, AI geliştirme ve kullanımını etkileyebilecek geniş bir yelpazeye sahip. AI’nin güvenli ve temel hak ve değerlere saygılı olmasını sağlamak için tasarlandı. Bu yeni ilkeli ekosistem, AI yanlışlıklarının potansiyel kaynaklarını, Bunlar arasında AI modellerini besleyen veriler ve veri kümeleri, model şeffaflığı ve erişimi, sistem tasarımı ve kullanımı yer alıyor. AI çözümleri bu üçünün bir bileşimi ve bunlardan herhangi birindeki sorunlar olumsuz sonuçlara yol açabilir. Ayrıca, AI’nin tasarım, model geliştirme, dağıtım ve işletmesinde kullanılan veriler çoğunlukla iş kayıtlarından oluşur ve bunlar da çeşitli uyum gereksinimlerine tabidir.

Diğer bir deyişle, AI’yi çevreleyen düzenleyici ortam giderek daha sıkı hale geliyor ve bu, veri girişi için de çıktı için de geçerli – latter daha fazla başlık yapıyor olsa da.

AI’ya Uyumlu, Güncel, İlgili Veri Beslemek için Beş Adım

Bu çift zorluğu – hem uyumlu veri işleme hem de yüksek kaliteli girdi sağlamak – çözmek için şirketlerin AI modellerine verilen eğitimi ve çıkarımı kontrol etmesi gerekiyor. Ne yazık ki, birçok şirket bu kontrolü henüz elde edemedi.

En azından, şirketlerin daha geniş uyum ve yönetim programlarını AI girişimlerine uygulamaları gerekiyor. AI modellerine hangi verilerin beslendiğini, modellerin ve sistemlerin nasıl tasarlandığını ve AI aracılığıyla hangi kararların alındığını kaydedip korumaya başlamaları gerekiyor.

Ancak şirketlerin bundan daha da önemli bir adım atmaları gerekiyor: AI dağıtımlarında kullanılabilecek tüm verilere tam kontrol sahibi olmak. Bu, tüm ilgili verilerin akıllıca toplanması, temizlenmesi, depolanması, sınıflandırılması ve yetkilendirilmesini sağlayan yüksek kaliteli bir veri yönetimi ve depolama stratejisi gerektirir. Bunu başarmak için şirketlerin dört ana adım düşünmesi gerekiyor:

1. Veri Soykütüğü ve Kökeni

Bu, verinin kaynağını, kökenini, sahipliğini ve yaşam döngüsü boyunca yapılan değişikliklerin metadata bilgilerini (izin verilenler) tutmayı içerir. Ayrıca, zengin metadata ve bu verilerden türetilen tüm belgelerin veya sanat eserlerinin korunmasını da içerir.

2. Veri Otoritesi

Bu, tüm verilerin açık bir zincirinin korunmasını, nesnelerin orijinal formatta depolanmasını ve alınan nesnelerin değişmediğini göstermek için hashing işlemlerinin yapılmasını gerektirir. Ayrıca, her nesne için tam bir denetim geçmişi tutulması ve tüm eylemler ve olaylar için değişikliklere ilişkin kayıt tutulması da önemlidir.

3. Veri Sınıflandırması

Veri setinin veya türünün niteliğini belirlemek önemlidir. Şirketlerin, yapılandırılmış verilerin, yarı yapılandırılmış verilerin ve yapılandırılmış veri kümelerinin yönetimini yapabilmesi gerekiyor. Her sınıfın benzersiz bir şema verilmesi, şirketlerin çeşitli veri kümelerini esnek bir ontoloji olmadan yönetmesine olanak tanıyabilir – böylece verilerin gereksiz yere değiştirilmesini önleyerek esnek olmayan bir veri yapısına zorlanmasını engelleyebilir.

4. Veri Normalleştirme

Metadata’nın ortak tanımlarını ve formatlarını belirlemek, analitik ve AI çözümleri için önemlidir. Açıkça tanımlanmış şemalar ve verilerin dönüştürülmesini veya haritalanmasını sağlayan araçlar, ilgili verilerin tutarlı ve normalleştirilmiş görünümünü korumak için önemli unsurlardır.

5. Veri Yetkilendirmesi

Şirketlerin, nesne veya alan düzeyinde, kullanıcı veya sistem profillerine dayalı ayrıntılı yetkilendirme kontrollerine ihtiyacı vardır. Bu, doğru verilerin yetkili kullanıcılar ve sistemlere erişebilir olmasını, yetkisi olmayanlara ise erişimi kısıtlamayı veya engellemeyi sağlar.

Bu kritik unsurların yerinde olmasıyla birlikte, şirketler AI modellerine verilen verilerin hem yüksek kaliteli hem de uyumlu olmasını sağlamak için en iyi konumda olacaklar. AI, endüstriler genelinde iyileştirmeler ve verimlilikler sağlayacak – ancak bunun gerçekleşmesi için güçlü bir veri temelinin olması şart.