Başlangıç Şirketi Unbiased, Verilerde Şeffaflığı Artırmak ve Veri Önyargısını Önlemek için Blockchain’i Kullanıyor

Yapay zeka ve makine öğrenimi algoritmalarının toplumun her köşesine daha da nüfuz etmesi nedeniyle, yapay zeka şirketleri geliştirdikleri algoritmaların insan önyargılarını miras almasını önlemek için yeni yöntemler arıyor. AI ve makine öğrenimi alanındaki yeni oyunculardan biri, adından da anlaşılacağı gibi şeffaflığı hedefleyen startup Unbiased’dir. Unbiased, yeni bir veri pazarı başlattı. aktif blockchain platformu Telos üzerinde, müşterilerine merkezi olmayan, gizlilik odaklı araçlar ve uygulamalar sunmayı hedefliyor.

Küresel AI pazarının önümüzdeki on yıl içinde hızlı büyümesini sürdürmesi ve 2027 yılına kadar yaklaşık 266 milyar dolara ulaşması bekleniyor. AI sistemleri ve ilgili bileşenlere yönelik dünya çapındaki harcamaların da 2024 yılına kadar yaklaşık 110 milyar dolara çıkması bekleniyor. AI algoritmalarının giderek daha fazla endüstriye adaptasyonu, AI sistemlerinin şeffaflığı, gizliliği, adilliği ve temsil gücüne ilişkin endişeleri artırdı.

Şeffaflık ile Önyargıyı Azaltma

CapGemini Araştırma Enstitüsü’nün yayımladığı recent raporuna göre, AI’nin etik kullanımı artık IT liderleri için önemli bir sorun haline geldi. IT liderlerinin büyük çoğunluğu AI sistemlerinin potansiyel suistimaline ilişkin endişelerini dile getirdi. IT yöneticilerinin yaklaşık dokuzu, en az bir olayda AI sisteminin etik sorunlara neden olduğunu bildirdi. IT yöneticilerinin yaklaşık üçte ikisi, AI sistemlerinde potansiyel ayrımcı önyargılardan haberdar olduklarını belirtti ve yaklaşık yarısı AI geliştirme süreçlerinde etik bir çerçeve oluşturdu.

AI algoritmalarının daha adil hale getirilmesi için araştırmalar devam ederken, birçok etikçi ve AI uzmanı, AI’yi eğitmek için kullanılan verilere odaklanıyor. AI algoritmaları daha yaygın ve standart hale geldikçe, odak noktası gerekli verileri elde etmeye kayıyor.

AI algoritmalarında veri önyargısını azaltmanın birçok yolu var. Bazı teknikler, modeli veya eğitim verilerini model eğitilirken ayarlamayı içerir. Bu teknikler, “işlem içi” önyargı düzeltme teknikleridir. Bu, adversarial eğitim tekniklerini içerir; burada duyarlı bir özelliğe/değişken (cinsiyet veya ırk gibi) kontrol edilir ve modelin ilgili özelliğiyle ilgili tahminler yapma yeteneği cezalandırılır. Aynı zamanda modelin hatasını en aza indirme çabası da yapılır. Buna karşılık, verisetinden önyargıları çıkarmak, bir ön-işlem tekniğidir. Makine öğrenimi modelleri için eğitim verileri genellikle manuel olarak etiketlenir ve blockchain’in uygulanması, şirketlerin verilerin etiketleme sürecini takip etmesine ve verisetlerinin temsil edildiğinden emin olmasına yardımcı olabilir.

Unbiased, veri kümeleri ve veri pazarları içinde şeffaflık kültürünü teşvik etmek için blockchain’i kullanmayı hedefliyor. AI sistemleri ve makine öğrenimi algoritmaları için veri setleri oluşturmak kullanılan araçların çoğu merkezi ve bu nedenle şeffaflıktan yoksun. Unbiased, blockchain’in doğasını, veri pazarlarındaki eylemleri kaydetmek için kullanmayı amaçlıyor; bu, veri alışverişi, görev ve proje eşleştirmesi ve işçilerin katkıları içerir. Hedef, Telos blockchain’in merkezi olmayan doğasının şeffaflık sağlaması ve kullanıcıların veri bilimine ilişkin kritik bilgileri alabilmesidir. Kullanıcılar, veri kümelerini doğrulayabilecek ve etiketlemenin belirli etik ilkelerine uygun olarak yapıldığını belirleyebilecekler.

Telos Blockchain’in Baş Mimarına göre, AI/makine öğrenimi ile blockchain’in kesişmesi, veriyle çalışmanın dönüştürücü yeni yöntemlerine yol açabilir. AIthority’ye göre Horn şöyle demiştir:

“Unbiased, bu endüstrilere, yüksek performanslı, ücret gerektirmeyen bir blockchain olan Telos’da verileri kaydetmenin, şeffaflık, değişmezlik, mikro ödemeler ve yönetim eklenmesini nasıl sağlayabileceğini gösterecek.”

Veri eğitimi şeffaflığının ötesinde, bazı bilim insanları ve araştırmacılar algoritmalar, modeller ve kod için daha fazla şeffaflık talep etti. Bir uluslararası bilim insanları ekibi, bilgisayar bilimcilerinin daha yüksek şeffaflık standartlarına uymasını talep etti. Araştırmacılar, AI modelleri ve kod ile ilgili daha fazla şeffaflığın, yalnızca çalışmaların yeniden üretilebilirliğini artırmakla kalmayıp, aynı zamanda araştırma grupları arasındaki işbirliğini de teşvik edeceğini savundu. Birçok bilimsel çalışma tekrarlanamaz ve bu, özellikle kritik materyalleri dışarıda bırakan AI odaklı çalışmalarda daha büyük bir sorundur. Gelecekte, blockchain, AI alanındaki araştırmaların izlenmesi ve değerlendirmesini iyileştirmek için de kullanılabilecek.