Reid Blackman, Ph.D, Virtue Consultants'ın Kurucusu ve CEO'su - Röportaj Serisi

Reid Blackman kurucusu ve CEO'sudur. Fazilet Danışmanları. Bu kapasitede, etik ve etik risk azaltmayı şirket kültürüne ve gelişen teknoloji ürünlerinin geliştirilmesine, konuşlandırılmasına ve satın alınmasına entegre etmek için şirketlerle birlikte çalıştı. Aynı zamanda Ernst & Young'ın Kıdemli Danışmanıdır ve Yapay Zeka Danışma Kurulunda yer alır ve IEEE'nin Etik Olarak Hizalanmış Tasarım Girişiminin bir üyesidir.

Reid'in çalışmalarının profili The Wall Street Journal ve Dell Perspectives'te yayınlandı ve The Harvard Business Review, TechCrunch, VentureBeat ve Risk & Compliance Magazine'e yazılarıyla katkıda bulundu. Çok sayıda haber makalesinde alıntılanmıştır ve Dünya Ekonomik Forumu, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia Üniversitesi ve AIG gibi çeşitli mekanlarda düzenli olarak konuşmalar yapmaktadır.

2009'dan 2018'e kadar Colgate Üniversitesi'nde Felsefe Profesörüydünüz. Yapay Zeka etiğini derslerinize hangi noktada dahil etmeye başladınız?

Sık sık Sosyal ve Politik Felsefe üzerine Marx'ı anlattığım bir ders verirdim. Marx'ın temel iddialarından biri, "üretim araçları"ndaki muazzam artış nedeniyle kapitalizmin eninde sonunda yerini komünizme bırakacağıdır. Başka bir deyişle, kapitalizm rekabet ve yeni pazarlar açmak adına giderek daha fazla verimliliği zorluyor, bu da giderek daha kısa sürede daha fazla üretim yapabilen teknolojilerin yaratılmasında bir artış anlamına geliyor. Marx ayrıca bunun parayı giderek azınlığın eline vereceğini ve giderek daha fazla insanı yoksulluğa sürükleyeceğini ve bu noktada kapitalist yapıların artan sayıda yoksul kitlenin önderlik ettiği bir devrimle alaşağı edileceğini öngördü. Tüm bunlar, yapay zeka etiğinin merkezi bir unsuru olan insan emeğine olan ihtiyacı ortadan kaldıran teknoloji etiği etrafında bir tartışmaya yol açar.

İlgileniyorsanız küçük bir yan hikaye: 2002'de, Northwestern Üniversitesi'nde lisans öğrencileriyle Marx üzerine bir tartışma yöneten bir yüksek lisans öğrencisiydim. Bir noktada, bir öğrenci elini kaldırdı ve "Eninde sonunda hiçbir iş yapmak için insanlara ihtiyacımız olmayacak" dedi. Sınıfın kafası karışıktı. Kafam karışmıştı. Ben de “peki o zaman işi kim yapacak?” dedim. Çok gerçekçi bir şekilde cevap verdi: "robotlar." Sınıf kahkahalara boğuldu. kendiminkini bastırdım Ama son gülenin kim olduğu çok açık.

2018'de başlattınız Fazilet Danışmanları, Veri ve Yapay Zeka liderlerini ürünlerinin etik risklerini belirleme ve azaltma konusunda güçlendiren bir etik danışmanlığı. Bu girişimcilik yolculuğuna başlamanız için size ne ilham verdi?

Kıskançlık. İyi sıralama. Yüksek lisans öğrencisiyken bir havai fişek toptancı şirketi kurdum, sanırım 2003 veya 2004 civarında. Beklediğimden daha iyi gitti ve şirket hala var, ancak artık bir danışmanım ve artık günlük operasyonlarla ilgilenmiyorum. . Her neyse, alakalı çünkü Colgate'in girişimcilik programında (TIA olarak adlandırılan, iki harika risk sermayedarının, Andy Greenfield ve TIA Ventures'ı yürüten Wills Hapworth'un liderliğindeki TIA, Düşünce Eylemi) yeni kurulan şirketlere nasıl akıl hocası olduğumu açıklıyor. Bir akıl hocası olarak, öğrencilerin kar amacı güden veya gütmeyen girişimlerini nasıl kurup ölçeklendireceklerini anlamaya çalışırken heyecan verici projelere giriştiklerini gördüm ve "Bunu istiyorum!" diye düşündüm. Ama yeni girişimim ne olurdu? Benim felsefe ve etik sevgime hitap etmesi gerekiyordu ve mantıklı gelen ilk şey bir etik danışmanlığıydı. O zamanlar bu tür hizmetler için piyasayı görmedim çünkü görecek bir tane yoktu ve ben de bekledim. Ardından Cambridge Analytica, BLM ve #MeToo ulusal manşetlere çıktı ve birdenbire ihtiyaç konusunda daha büyük bir farkındalık oluştu.

Şirketlerin bir Yapay Zeka Etik Beyannamesi sunması ne kadar önemlidir?

Bir AI Etik Beyanı gerekli değildir, ancak hedeflerinizi belirlemek için son derece yararlı bir araçtır. Kuruluşunuza bir AI etik programı tanıtırken, bunun çeşitli etik, itibar, düzenleyici ve yasal riskleri belirleyip azaltmasını ve yönetmesini istersiniz. Ana işlevi budur. Bir etik beyanı, bu işlevi yerine getirmek için altyapıya, sürece ve uygulamalara sahip olduğunuzda işlerin nasıl görüneceğini açıkça ifade etmenize yardımcı olur. Bir stratejinin bir hedefe ihtiyacı olduğu sürece - ki her zaman öyledir - bir AI Etik Beyanı, tek yol olmasa da bu hedefleri ifade etmenin güzel bir yoludur.

Şirketler etik beyanının sürece ve uygulamaya aktarılmasını nasıl sağlayabilir?

Bir etik bildirimi, doğru yönde atılmış küçük bir adımdır. Devam etmek istiyorsanız, bir sonraki doğal adım, bu ifadede ifade edilen hedeflere göre nerede olduğunuzun bir değerlendirmesini yapmaktır. En büyük, en riskli boşlukların nerede olduğunu, yani hedeflerinizin gerisinde kalma riskinin en yüksek olduğu yeri öğrendikten sonra, bu boşlukları daraltmak için çözümler tasarlamaya başlayabilirsiniz. Belki de bir etik kuruludur. Belki de ürün geliştirme sırasında bir durum tespiti sürecidir. Belki de pazarlama ve İK gibi ürün dışı departmanlarda verileri nasıl ele aldığınız konusunda daha iyi hale geliyor. Muhtemelen tüm bu şeyler ve daha fazlası.

Şirketlerin gerçek yapay zeka algoritmasına yönelik önyargıyı önlemek için uygulaması gereken bazı çözümler nelerdir?

Yanlılığı belirlemek için bir sürü teknik araç var, ancak bunlar sınırlı. Modelinizin çıktılarını, akademik makine öğrenimi etiği literatüründe sunulan düzinelerce niceliksel ölçüyle karşılaştırmanıza olanak tanırlar, ancak bu ölçütler karşılıklı olarak uyumlu olmadığından dikkatli olmalısınız. Dolayısıyla somut, etik bir karar verilmesi gerekiyor: Bu ölçütlerden herhangi biri varsa, bu bağlamda uygun olan hangisidir?

Bu tür bir araç kullanmanın yanı sıra bu soruyu sorumlu bir şekilde yanıtlamanın yanı sıra ürün ekipleri, oluşturmaya başlamadan önce önyargının nerelere sızabileceğini düşünse iyi eder. Eğitim veri setlerinde nasıl yer alabilir veya yansıtılabilir? Amaç fonksiyonunu belirlemede ne dersiniz? Eşik belirlemeye ne dersiniz? Önyargının içeri sızabileceği pek çok yer vardır. Bunun kişinin mevcut projesinde nerede olabileceği ve oraya nasıl girebileceği hakkında önceden düşünmek, önyargıyı belirlemek ve azaltmak için çok önemlidir.

AI şirketleri, istemeden bazı önyargılarla AI sistemine programlama yapabilen beyaz erkeklerin hakimiyetinde olmalarıyla ünlüdür. Bundan kaçınmak için insan kaynakları departmanları ne tür özellikler aramalıdır?

Genel olarak mühendisler ve ürün ekipleri arasında daha fazla fırsat ve daha fazla çeşitlilikten yanayım. Bununla birlikte, bence bu olaylara yanlış bir mercekten bakıyor. Taraflı algoritmalar söz konusu olduğunda birincil sorun, bazı beyaz adamların önyargılarının önyargılı koda yol açması değildir. Veri eğitim setlerinin önyargılı olması. Aslında, Columbia'dan yeni çıkan bir makale - "Önyargılı Programcılar? Veya Önyargılı Veriler? Yapay Zeka Etiğini Operasyonel Hale Getiren Bir Saha Deneyi" - "teknik rehberliği anlayan [p] programcıları önyargıyı başarılı bir şekilde azaltır" ve "kadın ve azınlıktaki yapay zeka programcılarının [a]algoritmik tahminlerinin daha az algoritmik önyargı veya ayrımcılık sergilemediği" sonucuna varmıştır. Bu nedenle, İK'nın çeşitlilik konularına dikkat etmesi gerekirken, önyargılı yapay zeka çıktılarını azaltmaya yönelik stratejilerin, öncelikle - bırakın, yalnızca - çeşitlilik çabalarıyla ilgili işe alma kararlarına odaklanması gerektiği açık olmaktan çok uzaktır.

Etik risk durum tespiti nedir ve şirketlerin bunu neden uygulaması gerektiğini tartışabilir misiniz?

Etik risk durum tespiti, nasıl dağıtıldığı, nasıl kullanılabileceği ve kötüye kullanılabileceği vb. dahil olmak üzere, oluşturduğunuz ürünle gerçekleştirilebilecek çeşitli etik riskleri belirleme girişimidir. ürün - hem sahip oldukları hem de sahip olmadıkları - ve bunların çeşitli bağlamlarda kullanıldıklarında etik suistimale yol açabilecekleri. İyi yapıldığında, sistemik ve kapsamlı bir denetimdir. Tabii ki, köşeyi dönüp bakmak için elinizden gelenin en iyisini yapmaya çalışsanız da, muhtemelen gözden kaçıracağınız bazı şeyler vardır, bu nedenle sürekli izleme önemlidir.

Şirketlerin bunu neden uygulaması gerektiğine gelince: bunu yapmamak için yalnızca etik, itibar, düzenleyici ve yasal riskleri dikkate almaları gerekiyor. Optum'u haberlerde ve sağlık hizmeti uygulayıcılarına beyaz hastalara daha hasta siyah hastalardan daha fazla dikkat etmelerini öneren (iddia edildiği üzere) önyargılı bir algoritma için düzenleyici soruşturma altında olduğunu düşünün. Veya kadınlara karşı ayrımcılık yaptığı iddia edilen Apple Card'ın kredi limitleri nedeniyle soruşturma altındaki Goldman Sachs'a. Veya dağıtılmadan önce önyargıyla ilgili endişeler nedeniyle rafa kaldırılan Amazon'un işe alma yazılımı. Veya Los Angeles tarafından IBM'e Weather uygulamasından toplanan verileri kötüye kullandığı iddiasıyla dava ediliyor. Ya da Facebook….

Erdem Danışmanları ile ilgili paylaşmak istediğiniz başka bir şey var mı?

Virtue, kıdemli liderlerin yapay zeka etiğini uygulamaya koymalarına yardımcı olur; ister konu hakkında insanları eğitmeye ve becerilerini artırmaya yardımcı olun, ister bir AI Etik Bildirimi yazın, eyleme geçirilebilir bir AI etik risk çerçevesi oluşturup uygulayın veya sadece AI etiği konusunda danışman olarak hizmet edin. Kulağa ilginç geliyorsa, insanlar gelip merhaba demeli.

Harika röportaj için teşekkürler, Reid hakkında daha fazla bilgi edinmek isteyen okuyucular ziyaret etmelidir. Reid Blackman, veya ziyaret edebilirsiniz Fazilet Danışmanları.