Startups AI’yi İzlemek ve Etik AI Kullanımını Teşvik Etmek İçin Araçlar Oluşturuyor

Geçtiğimiz yıl boyunca, AI’nin etik yollarla kullanılması için giderek daha fazla dikkat edildiği görülüyor. Google ve Microsoft, AI algoritmalarının yanlış kullanımı veya kötü tasarlanmış AI algoritmalarının etik ve yasal riskler oluşturabileceği konusunda yatırımcıları最近 uyardı. Bu arada, California eyaleti, California’nın kanun uygulama kurumları tarafından yüz tanıma teknolojisinin kullanımını yasaklayan bir yasa çıkardı.

Son zamanlarda, Arthur gibi startups, AI mühendislerine makine öğrenimi modellerinin performansını nicelendirmelerine ve niteliğindeki sorunları belirlemelerine yardımcı olacak araçlar tasarlamaya çalışıyorlar. Wired tarafından bildirildiği gibi, Arthur, AI geliştiricilere, finansal uygulamalar tasarlanırken, yatırım veya kredi kararlarındaki önyargıları ortaya çıkarmak gibi sorunları daha kolay keşfetmelerine yardımcı olacak bir araç seti sunmaya çalışıyor.

Arthur’un çabaları, AI’nin “kara kutu” sorununu ele almaya yöneliktir. AI’deki kara kutu sorunu, geleneksel kodun kolayca okunabilen bir dilde yazıldığı halde, makine öğrenimi sistemlerinin davranışları seçme nedenlerini açıklamadan veya özelliklerin nasıl yorumlandığını açıklamadan özelliklere davranışları eşleştirdiğini açıklar. Diğer bir deyişle, bir kara kutu sistemde algoritmanın kesin uygulaması opakdır.

Makine öğrenimi sistemleri, girdi verilerinden desenler çıkarmak ve bu desenleri yorumlamak suretiyle çalışır. Bu, temelde bir bilgisayarın belirli matematiksel fonksiyonları manipüle ederek kendi kodunu yazmasıyla gerçekleştirilir. Bu sorunu ele almak için, araştırmacılar ve mühendislerin makine öğrenimi yazılımlarının davranışını gözlemlemek ve analiz etmek için araçlara ihtiyaçları vardır. Arthur gibi startups, bu sorunun çözümünün zor olduğunu kabul ediyor ve optimal çözümlere sahip olmadıklarını iddia etmiyorlar, ancak bu alanda ilerleme kaydetmek ve kara kutuyu slightly açmayı umuyorlar. AI sistemlerinin daha kolay analiz edilebilmesi durumunda, önyargı gibi sorunların düzeltilmesinin daha kolay olacağı umuluyor.

Facebook gibi büyük şirketler, makine öğrenimi sistemlerinin iç işleyişini analiz etmek için zaten bazı araçlara sahip. Örneğin, Facebook’un, işleri farklı arka planlardan insanlara öneren reklamları hedeflemek için Fairness Flow adlı bir aracı var. Ancak, büyük AI ekiplerinin bu tür araçlar oluşturmak için zaman harcamak istemeyecekleri muhtemeldir ve bu nedenle AI şirketleri tarafından kullanılan izleme araçları oluşturmak isteyen şirketler için bir iş fırsatı vardır.

Arthur, sistem zaten dağıtıldıktan sonra şirketlerin AI sistemlerini daha iyi bakımını ve izlemesini sağlayan araçlar oluşturmak üzerine odaklanıyor. Arthur’un araçları, şirketlerin sistemlerinin performansının zaman içinde nasıl değiştiğini görmelerine olanak tanır, bu da teorik olarak şirketlerin olası önyargı belirtilerini tespit etmelerine izin verir. Bir şirketin kredi öneri yazılımları belirli müşteri gruplarını dışlamaya başlarsa, sistemin ırk veya cinsiyet gibi duyarlı özellikler temelinde müşterilere karşı ayrımcılık yapmadığından emin olmak için bir uyarı işareti konabilir.

Ancak, Arthur, AI şirketlerinin algoritmalarının performansını incelemesine olanak tanıyan araçlar oluşturan tek şirket değildir. Birçok startup, önyargı ile mücadele etmek ve AI algoritmalarının etik olarak kullanılması için araçlar oluşturuyor. Weights & Biases, makine öğrenimi mühendislerine ağlarındaki olası sorunları analiz etmelerine yardımcı olan araçlar oluşturan başka bir startup. Toyota, araçlarını eğittikleri sırada makine öğrenimi cihazlarını izlemek için Weights & Biases tarafından oluşturulan araçları kullandı. Bu arada, Fiddler adlı startup, farklı bir set AI izleme aracı oluşturuyor. IBM, OpenScale adlı kendi izleme hizmetini oluşturdu.

Arthur’un ortak yaratıcılarından biri olan Liz O’Sullivan, AI’nin gücünün farkına varılmasıyla birlikte, bu soruna çözüm bulmak için araçlar oluşturma ilgisi artıyor.

“İnsanlar, bu sistemlerin ne kadar güçlü olabileceğini ve faydalarını sorumlu bir şekilde kullanma ihtiyacını anlamaya başlıyor,” dedi O’Sullivan.