5 Temel Sürdürülebilir AI Sürümleri

Yeni dijital ekonomide üretilen verilerin okyanuslarını işlemek için AI/ML sistemlerinde ezici bir büyüme görüyoruz. Ancak bu büyümeyle birlikte, AI’nin etik ve yasal etkilerini ciddiye almak gerekiyor.

Aİ sistemlerine, örneğin otomatik kredi onayı gibi giderek daha sofistike ve önemli görevler emanet ederken, bu sistemlerin sorumlu ve güvenilir olduğundan tuyệt olarak emin olmak zorundayız. AI’de önyargıları azaltmak, birçok araştırmacı için devasa bir odak alanı haline geldi ve büyük etik etkileri var, aynı zamanda bu sistemlere verdiğimiz özerklik miktarı da öyle.

Sorumlu AI kavramı, AI dağıtımlarınıza güven oluşturmasına yardımcı olabilecek önemli bir çerçeve. Sorumlu AI için beş temel temel sütun var. Bu makale, daha iyi sistemler oluşturmanıza yardımcı olmak için bunları keşfedecek.

1. Tekrar Üretilebilirlik

Yazılım geliştirme dünyasında eski bir söz vardır: “hey, benim makinede çalışıyor” AI ve ML’de bu cümle şöyle olabilir: “hey, benim veri setimde çalışıyor” Yani, makine öğrenimi modelleri souvent bir kara kutu olabilir. Çoğu eğitim veri setinde, örneklem yanlılığı veya onaylama yanlılığı gibi içkin yanlılıklar olabilir ve nihai ürünün doğruluğunu azaltabilir.

Aİ/ML sistemlerini daha tekrar üretilebilir, yani daha doğru ve güvenilir hale getirmek için ilk adım, MLOps pipeline’ını standardize etmektir. En zeki veri bilimcilerinin bile favori teknolojileri ve kütüphaneleri vardır, bu nedenle özellik mühendisliği ve ortaya çıkan modeller kişiye göre farklı değildir. MLflow gibi araçları kullanarak MLOps pipeline’ını standardize edebilir ve bu farklılıkları azaltabilirsiniz.

AI/ML sistemlerini daha tekrar üretilebilir hale getirmenin bir başka yolu, “altın veri setleri” olarak adlandırılan şeylerin kullanılmasıdır. Bunlar, esasen yeni modellerin üretimden önce test ve doğrulaması olarak görev yapan temsilci veri setleridir.

2. Şeffaflık

Daha önce de belirtildiği gibi, birçok ML modeli, özellikle sinir ağları, kara kutulardır. Onları daha hesap verebilir hale getirmek için onları daha yorumlanabilir hale getirmemiz gerekiyor. Basit sistemler için, karar ağaçları gibi, sistemin belirli bir kararı neden aldığına dair理解 etmek oldukça kolaydır, ancak AI sisteminin doğruluğu ve karmaşıklığı arttıkça, yorumlanabilirliği souvent azalır.

Açıklanabilirlik olarak adlandırılan yeni bir araştırma alanı, sinir ağları ve derin öğrenme gibi karmaşık AI sistemlerine bile şeffaflık getirmeye çalışıyor. Bu, nöral ağların performansını kopyalamak için proxy modelleri kullanır, ancak aynı zamanda hangi özelliklerin önemli olduğunu geçerli açıklamalar yapmaya da çalışır.

Bunun hepsi adillikle ilgilidir; belirli bir kararın neden alındığını bilmek ve bu kararın adil olduğundan emin olmak istersiniz. Ayrıca, modelinize önyargı girmemesi için uygun olmayan özelliklerin dikkate alınmadığından da emin olmak istersiniz.

3. Hesap Verebilirlik

Sorumlu AI’nin belki de en önemli yönü hesap verebilirliktir. Bu konu hakkında, özellikle AI sonuçlarını yönlendirecek politikalarla ilgili olarak, hükümet sektöründe bile çok konuşma var. Bu politika odaklı yaklaşım, insanların AI/ML sistemlerinde hangi aşamada olması gerektiğini belirler.

Hesap verebilirlik, politika yapıcıları ve AI/ML sistemlerini yönlendirmek için güçlü izleyicilere ve metriklere ihtiyaç duyar. Hesap verebilirlik, tekrar üretilebilirlik ve şeffaflık arasında bir bağ oluşturur, ancak etkili bir denetim gerektirir, bu da AI etik komitelerinden oluşur. Bu komiteler, politika kararları alabilir, hangi ölçümlerin önemli olduğunu kararlaştırabilir ve adillik incelemeleri yapabilir.

4. Güvenlik

AI güvenliği, verilerin gizliliği ve bütünlüğü ile ilgilenir. Sistemler veri işlerken, bunların güvenli bir ortamda olmasını istersiniz. Verilerin hem veritabanında dinlenirken hem de boru hattı üzerinden çağrılırken şifrelenmesini istersiniz, ancak plain text olarak makine öğrenimi modeline beslenirken hala güvenlik açıkları olabilir. Homomorphic şifreleme gibi teknolojiler, makine öğrenimi eğitimini şifreli bir ortamda gerçekleştirmeye izin vererek bu sorunu çözer.

Modelin kendisi için güvenlik bir başka yönüdür. Örneğin, model tersineme saldırıları, saldırganların modeli oluşturmak için kullanılan eğitim verilerini öğrenmesine izin verir. Model zehirlenme saldırıları da vardır, bunlar modelin eğitimi sırasında kötü veri ekler ve performansını tamamen bozar. Modelinizi böyle advers saldırılar için test etmek, onu güvenli ve güvende tutabilir.

5. Gizlilik

Google ve OpenMined, AI gizliliği konusunda最近 öncelik veren iki kuruluştur ve OpenMined bu konuda yakın zamanda bir konferans düzenledi. Yeni düzenlemeler gibi GDPR ve CCPA ile ve gelecekte possibly daha fazlası, gizlilik AI modellerini nasıl eğittiğimizde merkezi bir rol oynayacak.

Müşterilerinizin verilerini gizlilik bilinci ile ele almak için bir yol, dağıtılmış bir makine öğrenimi yöntemi olan federated learning’i kullanmaktır. Bu method, yerel olarak farklı modelleri eğittiği ve ardından merkezi bir hub’da bunları birleştirdiği, ancak verilerin güvenli, güvenli ve özel kalmasını sağlar. Bir başka method, bireysel müşteri değerlerinin sızdırılmamasını sağlamak için istatistiksel gürültü eklemektir. Bu, toplu olarak çalışmanıza ve bireysel bir müşterinin verilerinin algoritmaya açık olmamasına izin verir.

AI’yi Sorumlu Tutma

 Sonuç olarak, AI’yi sorumlu tutmak, AI/ML sistemleri tasarlayan her kuruluşun görevidir. Bu beş Sorumlu AI yönünden her birini kasıtlı olarak takip ederek, yalnızca yapay zekanın gücünden yararlanabilirsiniz, aynı zamanda güvenilir ve basit bir şekilde yararlanabilirsiniz, bu da kuruluşunuzun, müşterilerinizin ve düzenleyicilerinizin güvencesini sağlayacaktır.