Başlangıç Şirketleri AI’yi İzlemek ve Etik AI Kullanımını Teşvik Etmek İçin Araçlar Oluşturuyor

Geçtiğimiz yılın süresi boyunca, AI’nin etik yollarla kullanılması için daha fazla dikkat edildiği görünüyor. Google (GOOGL ) ve Microsoft (MSFT ), AI algoritmalarının yanlış kullanımı veya kötü tasarlanmış AI algoritmalarının etik ve yasal riskler oluşturabileceği konusunda yatırımcıları uyardı. Bu arada, California eyaleti, California’nın kanun uygulama kurumları tarafından yüz tanıma teknolojisinin kullanılmasını yasaklayan bir yasa çıkardı.

Arthur gibi startups最近, AI mühendislerine makine öğrenimi modellerinin performansını ölçmek ve değerlendirmek için araçlar tasarlamaya çalışıyor. Wired tarafından bildirildiği gibi, Arthur, AI geliştiricilerine finansal uygulamalar tasarlanırken, yatırım veya kredi kararlarında önyargı gibi sorunları keşfetmeleri için bir araç seti sunmaya çalışıyor.

Arthur’un çabaları, AI’nin “kara kutu” sorununu ele almaya yöneliktedir. AI’nin kara kutu sorunu, geleneksel kodun kolayca yorumlanabilmesine karşılık, makine öğrenimi sistemlerinin davranışları seçme ve özellikleri yorumlama nedenlerini açıklamadan davranışları seçmesi ve özellikleri yorumlamasıdır. Diğer bir deyişle, bir kara kutu sisteminin algoritmanın kesin uygulanması opakdır.

Makine öğrenimi sistemleri, girdi verilerinden desenler çıkarmak ve bu desenleri yorumlamak suretiyle çalışır. Bu, temel olarak bir bilgisayarın belirli matematiksel fonksiyonları manipüle ederek kendi kodunu yazmasıyla gerçekleştirilir. Bu sorunu ele almak için, araştırmacılar ve mühendislerin makine öğrenimi yazılımlarının davranışını gözlemlemek ve analiz etmek için araçlara ihtiyacı vardır. Arthur gibi startups, bu sorunun çözülmesinin zor olduğunu kabul eder ve optimal çözümlere sahip olmadıklarını iddia etmez, ancak bu alanda ilerleme kaydetmek ve kara kutuyu açmayı biraz daha kolaylaştırmak umudu taşır. AI sistemlerinin daha kolay analiz edilebilmesi umuluyor ve bu sayede önyargı gibi sorunların düzeltilmesi de kolaylaşacak.

Facebook (META ) gibi büyük şirketler, makine öğrenimi sistemlerinin iç işleyişini analiz etmek için zaten bazı araçlara sahiptir. Örneğin, Facebook’un Adillik Akışı adlı bir aracı vardır ve bu, insanların farklı geçmişlerden gelen insanlara iş önerileri sunan reklamları hedeflemek için tasarlanmıştır. Ancak, büyük AI takımlarının bu tür araçlar oluşturmak için zaman ayırmak istemeyecekleri muhtemeldir ve bu nedenle AI şirketleri tarafından kullanılan izleme araçları oluşturmak isteyen şirketler için bir iş fırsatı vardır.

Arthur, şirketlerin zaten dağıtılmış AI sistemlerini daha iyi bakımını ve izlemesini sağlayan araçlar oluşturmak üzerine odaklanıyor. Arthur’un araçları, şirketlerin sistemlerinin performansını zaman içinde nasıl değiştirdiğini görmelerine olanak tanır ve bu, teorik olarak şirketlerin potansiyel önyargı belirtileri tespit etmesine izin verir. Bir şirketin kredi öneri yazılımları belirli müşteri gruplarını dışlamaya başlarsa, sistemde bir bayrak ayarlanabilir ve bu, sistemin ırk veya cinsiyet gibi duyarlı özellikler temelinde müşterilere karşı ayrımcılık yapmadığından emin olmak için sistemin gözden geçirilmesini sağlar.

Arthur, AI şirketlerinin algoritmalarının performansını gözden geçirmesine olanak tanıyan araçlar oluşturan tek şirket değildir. Birçok startup, önyargı ile mücadele etmek ve AI algoritmalarının etik bir şekilde kullanılmasını sağlamak için araçlar oluşturmaya yatırım yapıyor. Weights & Biases, makine öğrenimi mühendislerine potansiyel sorunları analiz etmelerine yardımcı olan araçlar oluşturan bir diğer startup. Toyota, Weights & Biases tarafından oluşturulan araçları, makine öğrenimi cihazlarını eğitirken kullanıyor. Bu arada, Fiddler adlı startup, farklı AI izleme araçları oluşturuyor. IBM, OpenScale adlı kendi izleme hizmetini oluşturdu.

Liz O’Sullivan, Arthur’un ortak kurucularından biri, AI’nin kara kutu sorununu çözmeye yardımcı araçlar oluşturma ilgisi, AI’nin gücünün artan bir farkındalığının sonucu olduğunu açıkladı.

“İnsanlar, bu sistemlerin ne kadar güçlü olabileceğini anlamaya başlıyor ve faydalarını sorumlu bir şekilde kullanmaları gerektiğini anlıyor” dedi O’Sullivan.