Alyssa Simpson Rochwerger, Gerçek Dünya AI Kitabı’nın Yazarı – Röportaj Serisi

Alyssa Rochwerger, gerçek insanların zor sorunlarını çözen ürünler inşa etmeye adanmış bir müşteri odaklı ürün lideridir. Makine öğrenimi organizasyonları için birçok ürün liderliği rolü üstlenmiştir. Figure Eight’in (Appen tarafından satın alındı) ürün başkan yardımcılığı, Appen’de AI ve veri başkan yardımcılığı ve IBM Watson’da ürün müdürü olarak görev yaptı. Son olarak, sağlık alanında teknolojiyi kullanarak iyileştirmeye yönelik hayallerini takip etmek için bu alanı terk etti. Şu anda, Blue Shield of California’da ürün müdürü olarak görev yapmakta ve bol miktarda veri, zor sorunlar ve olumlu bir etki yaratma fırsatlarıyla çevrili olarak çalışmaktadır.

Yeni kitabı hakkında konuşuyoruz: Gerçek Dünya AI: Sorumlu Makine Öğrenimi İçin Pratik Bir Kılavuz

Kitabın girişinde, IBM ürün müdürü olarak ilk kez AI sisteminin engelli bir kişinin resmini “kaybeden” olarak sınıflandırmasıyla karşılaştığınızda AI yanlılığıyla ilgili bir sorunla karşılaştığınızı anlatıyorsunuz. Bu, sizin için ne kadar bir uyanış çağrısıydı?

Bu, benim için bir uyanış çağrısı değil, daha çok makine öğrenimi tabanlı bir ürün inşa etmeye başladığım ilk deneyimimdi (rolüme sadece birkaç ay kalmıştım) ve bu teknolojinin nasıl çalıştığını yeterli derecede bilmiyordum, bu nedenle istenmeyen yanlılığı önlemek için gerekli önlemleri alamadım. Bu, dikkatimi bu konuya çekmek için önemli bir deneyim oldu ve gelecekte daha fazla dikkat göstermeme neden oldu. Eşitlik, erişim ve kapsayıcılık benim uzun süredir ilgi duyduğum bir konu – hatta üniversitede engelli öğrenciler için yapmış olduğum savunuculuk nedeniyle bir ödül bile kazandım. Bu deneyim, IBM’de, sistematik toplumsal yanlılığın makine öğrenimi tabanlı ürünlere kolayca kodlanabileceğini, ancak ekibin aktif olarak önlemler almadığını anlamamı sağladı. Eşitlik konusunda derin bir şekilde ilgilenen bir kurumda çalışıyor olmaktan mutluydum ve bu konuda önlemler alındı.

Kitabı araştırırken ve yazarken kişisel olarak neler öğrendiniz?

Kişisel olarak – kitabı yazmak için zaman ayırmak zorunda kaldım, iş değişikliği yaptım, 1 yaşındaki çocuğumla birlikte COVID’i yönetmek zorunda kaldım. Kitap yazmak için zaman ayırmak ve ailemden yardım istemek için nasıl öncelik vereceğimi öğrendim.

Mesleki olarak – birçok katılımcının bizimle paylaştığı hikayelerini yayınlamak için gönüllü olmasından memnunum. Makine öğrenimi profesyonelleri, deneyimleri ve hataları paylaşıp başkalarına yardımcı olmak için her zaman istekli olan düşünceli ve nazik bir grup insan. Ne yazık ki, birçok ders çıkarılan hikaye bu kitapta yer almadı veya önemli ölçüde anonim hale getirildi, çünkü şirket veya bireyin yanlış bir şekilde yorumlanabileceği endişesi vardı. Bu, tabi ki normal bir durum, ancak kişisel olarak üzüldüm – geçmiş deneyimlerden ve hatalardan öğrenmenin ve büyümenin importanceına inanıyorum.

Kitaptan insanların çıkarmasını umduğunuz en önemli dersler nelerdir?

İnsanların, makine öğreniminin çok korkutucu veya zor olmadığını öğrenmelerini umuyorum. Bu, güçlü ancak bazen de kırılgan bir teknolojidir ve başarılı olmak için rehberlik ve yapıya ihtiyacı vardır. Ayrıca, sorumlu ve etik kullanımın olgunluk ve başarısı için kritik olduğunu ve zararlı yanlılığı önlemek için erken önlem almak gerektiğini öğrenmelerini umuyorum.

Kitapta, Apple’ın kredi kartının kadınların erkeklerden daha düşük kredi limitleri vermesi gibi bir AI cinsiyet yanlılığı örneği veriliyor. Bu, cinsiyet seçeneğini dışarıda bırakmanın, cinsiyet için bir proxy olabilecek diğer değişkenleri hesaba katmadığını gösteriyor. Bu örnek, ürünün piyasaya sürülmesinden sonra ancak yanlılığın anlaşılmasını sağladı. Cinsiyet veya azınlık gruplarına karşı yanlılığı önlemek için hangi veri girişlerinin asla atlanmaması gerektiğini düşünüyorsunuz?

Her durum ve sorun farklıdır. Uygulanan makine öğrenimi algoritmasının hangi sorunu çözmeye çalıştığını ve hangi zararlı yanlılığın kodlanabileceğini anlamak için ayrıntılara girmelerini öneririm.

Kitap, AI ekibiyle iletişim kurarken önemli olan şeyin, iş için önemli olan sonuçları net bir şekilde tanımlamak olduğunu söylüyor. İşletmelerin bu görevi ne sıklıkla başardığını düşünüyorsunuz?

DENEYİMLERİME göre, çoğu zaman, sonuçlar belirlenmez veya sadece yüksek düzeyde belirlenir. Ayrıntılara girerek ve spesifik sonuçları belirlemek, ekibi sớm başarısızlıktan kurtarmanın kolay bir yoludur.

Kitap, bir AI sisteminin “kur ve unut” tipi bir sistem olmadığını söylüyor. Bu konuda kısaca konuşabilir misiniz?

Bu, şirketlerin yeni bir ML sistemi piyasaya sürerken yaptığı klasik hata. Gerçekler değişir – zaman geçer, dün doğru olan şey bugün doğru olmayabilir. Duruma bağlı olarak, daha recent bilgilere dayanarak daha iyi kararlar almak ve öğrenmek önemlidir.

Makine öğrenimi tabanlı ürünler temel olarak karar vericilerdir. Bir insan örneği olarak, yüksek riskli bir futbol maçında bir hakem gibi düşünün. İyi eğitimli ve deneyimli bir hakem genellikle iyi bir karar verir, ancak bazen yanlış bir karar verebilir veya emin olamaz ve videoyu gözden geçirmek ve diğerlerine danışmak zorunda kalabilir. ML ürünleri de geri bildirim, eğitim ve bazen de güvenceye ihtiyaç duyar ve yeni bilgilerden öğrenmek için arkadan gelen seçeneklere ihtiyaç duyar. İyi bir hakem zamanla daha iyi kararlar verir.

AI’yi kullanarak çözülebilecek sorunları belirleyebilen çapraz fonksiyonel bir ekibin oluşturulmasının öneminden bahseder misiniz?

Makine öğrenimi teknolojisi, genellikle diğer yaklaşımlarla çözülemeyen çok zor ve spesifik sorunlar için uygundur. Her zor problem, bir ekibi gerektirir. Şirketler AI’ye yeni başladığında, genellikle yanlış bir anlatı vardır – tek bir makine öğrenimi bilimcisi veya makine öğrenimi ekibinin sorunu kendisi çözebileceği düşünülür. Ancak ben böyle bir şey hiç görmedim. Bir problemi çözmede ve makine öğrenimi teknolojisini başarılı bir şekilde uygulamada bir ekibe ihtiyaç vardır.

Harika röportaj için teşekkür ederiz. Kitabı okumak isteyen okuyucular (özellikle iş yöneticileri) için, Gerçek Dünya AI: Sorumlu Makine Öğrenimi İçin Pratik Bir Kılavuz kitabını okumalarını öneririz.