Juliette Powell & Art Kleiner, The AI Dilemma’nın Yazarları – Röportaj Serisi

The AI Dilemma, Juliette Powell ve Art Kleiner tarafından yazılmıştır.

Juliette Powell yazar, 9.000 canlı şovun arkasındaki bir televizyon yaratıcısı ve bir teknoloji ve sosyoloji uzmanıdır. Ayrıca Bloomberg TV / İş Haberleri Ağı’nda yorumcu ve Economist ve Uluslararası Finans Kurumu tarafından organize edilen konferanslarda konuşmacıdır. YouTube’da 130K görüntülemeye sahip bir TED konuşması vardır. Juliette, etik AI ve verilere güvenen başarılı iş liderlerinin kalıplarını ve uygulamalarını tanımlar. NYU’nun ITP’sinde dört kurs öğretiyor, bunlar arasında kitabına dayanan Responsible Media için Tasarım Becerileri kursu da var.

Art Kleiner yazar, editör ve gelecekçi. Kitapları arasında The Age of Heretics, Who Really Matters, Privilege and Success ve The Wise yer alıyor. PwC tarafından yayınlanan ödül kazanan dergi strategy+business’in editörü. Art ayrıca NYU-ITP ve IMA’da uzun süredir öğretim üyesi ve burada Responsible Technology ve Future of Media’yi birlikte öğretiyor.
“The AI Dilemma” kitabı, AI teknolojisini yanlış ellerde kullanmanın tehlikelerine dikkat çekerken, aynı zamanda AI’nin toplum için sunduğu faydaları da kabul etmektedir.

Sorunlar, temel teknolojinin çok karmaşık olması nedeniyle ortaya çıkar, bu nedenle son kullanıcı, kapalı kutu bir sistemin iç işleyişini gerçekten anlamak için imkansız hale gelir.

Vurgulanan en önemli konulardan biri, sorumlu AI’nin tanımı zaman içinde tutarlı kalmayan toplumsal değerler nedeniyle her zaman değiştiğidir.

“The AI Dilemma”yı okumak bana çok keyif verdi. Bu kitap, AI’nin tehlikelerini abartmıyor veya Yapay Genel Zeka’nın (AGI) potansiyel tuzaklarına derinlemesine girmiyor. Bunun yerine, okuyucular, kişisel verilerin bilinçsizce nasıl kullanıldığını ve AI’nin bazı sınırlılıkları ile endişe nedenlerini öğreniyorlar.

Aşağıda, okuyucularımıza bu çığır açan kitabın neler sunabileceğini gösteren bazı sorular yer alıyor.

Sizleri “The AI Dilemma”yı yazmaya iten ilk şey nedir?

Juliette, kısmen AI’nin düzenleme sınırları ve olanaklarını incelemek için Columbia’ya gitti. AI projeleri üzerinde çalışan arkadaşlarından bu projelerdeki gerilimi ilk elden duymuştu. AI’nin self-düzenleme sorunundan daha büyük bir problem olduğu sonucuna vardı. Apex benchmark modelini geliştirdi – AI hakkında kararlar veren şirketler ve şirketler içindeki gruplar arasındaki etkileşimler nedeniyle düşük sorumluluklara yol açan bir model. Bu, tezine yol açtı.

Art, Juliette ile birlikte birçok yazı projesinde çalışmıştı. Tezini okudu ve “Burada bir kitap var” dedi. Juliette, onu ortak yazar olarak davet etti. Birlikte çalışırken, çok farklı perspektiflere sahip olduklarını, ancak bu karmaşık, yüksek riskli AI fenomeninin daha iyi anlaşılması gerektiğini paylaştıklarını keşfettiler.

The AI Dilemma’da vurgulanan temel sorunlardan biri, bir AI sisteminin sorumlu olup olmadığını veya sadece kaynak kodunu inceleyerek sosyal eşitsizliği sürdürüp sürdürmediğini anlamak için imkansız olmasıdır. Bu ne kadar büyük bir sorun?

Sorun temel olarak kaynak kodunda değil. Cathy O’Neil’in belirttiği gibi, kapalı kutu bir sistemde, sadece kod değil, insan ve teknolojik güçlerin birbirini şekillendirdiği sosyo-teknik sistem keşfedilmelidir. AI sistemini oluşturan, yayınlayan ve şekillendiren mantık, amacın belirlenmesi, verilerin belirlenmesi, önceliklerin belirlenmesi, modellerin oluşturulması, makine öğrenimi için rehberlerin ve sınırların belirlenmesi ve bir insan müdahalesi gerekip gerekmediğinin belirlenmesini içerir. Bu süreçlerin şeffaf olması gerekir – en azından gözlemciler ve denetçiler için. Sosyal eşitsizlik ve diğer riskler, bu süreçlerin gizli olduğu durumlarda daha büyüktür. Kaynak kodundan tasarım mantığını yeniden mühendislik yapmak mümkün değildir.

Açıklayıcı AI (XAI) odaklanarak bu sorunu çözmek mümkün olabilir mi?

Mühendisler için açıklayıcı AI, insanların üzerinde çalıştığı modelleri daha şeffaf hale getirmeyi amaçlayan teknolojik kısıtlamalar ve uygulamalar olarak düşünülüyor. Yanlış bir şekilde suçlanan biri için açıklanabilirlik, farklı bir anlam ve aciliyet taşıyor. Savunma için açıklanabilirlik gerekiyor. İşletme veya hükümet kararları underlying modelleri net bir şekilde açıklamak gerekiyor. En azından Amerika Birleşik Devletleri’nde, açıklanabilirlik – insanlığın bilme hakkı – ve bir organizasyonun rekabet etme ve yenilik yapma hakkı arasında bir gerilim olacaktır. Denetçiler ve düzenleyiciler farklı bir açıklanabilirlik seviyesine ihtiyaç duyuyor. The AI Dilemma’da buna daha详细 olarak giriyoruz.

AI şirketlerinin (paydaşların) piyasaya sürdükleri kodun sorumluluğunu taşımaları gerektiğini düşünüyor musunuz?

Örneğin, Tempe, AZ’deki self-sürüşlü araba kazasında bir yayanın ölmesi sonucu, operatör sorumlu tutuldu. Bir kişi hapse girdi. Ancak sonunda, bu bir organizasyonel başarısızlıktı.

Bir köprü çöktüğünde, mekanik mühendis sorumlu tutulur. Çünkü mekanik mühendisler eğitilir, sürekli yeniden eğitilir ve mesleki standartlara göre hesap verirler. Bilgisayar mühendisleri değil.

Paydaşlar, AI şirketleri dahil, daha iyi kararlar vermesi ve daha fazla sorumluluk alması için eğitim ve yeniden eğitim almaları gerekiyor mu?

The AI Dilemma, Google (GOOGL ) ve Meta’nın kişisel verilerinizi nasıl topladığını ve para kazandığını vurguladı. Dikkat çekmesi gereken önemli bir veri suistimali örneğini paylaşabilir misiniz?

The AI Dilemma, sayfa 67ff’den;

Yeni kişisel veri suistimali vakaları kamuoyuna çıkıyor, bunlar arasında yüz tanıma kullanılması da var. Aralık 2022’de MIT Technology Review, iRobot’un uzun süredir devam eden bir uygulamasını yayınladı. Roomba ev robotları, gönüllü beta testçilerin evlerinde alınan görüntüleri ve videoları kaydeder, bu da kaçınılmaz olarak kişisel ve aile ile ilgili görüntülerin toplanması anlamına gelir. Bu görüntüler, testçilerin bilgisi olmadan, ülke dışındaki gruplarla paylaşılmaktadır. En az bir durumda, bir bireyin tuvalette olduğu bir görüntü Facebook’a yüklenmiştir. İran’da yetkililer, yüz tanıma sistemlerinden alınan verileri kullanarak, hicap giymeyen kadınları takip etmek ve tutuklamak için kullanmaya başladılar.16

Bu hikayeleri daha fazla anlatmaya gerek yok. Bunların çok fazla olması önemli. Ancak, bu şekilde yaşamamızın birikimli etkisini tanımlamak önemlidir. Özel bilgilerimizin bize karşı kullanılabileceği hissine kapıldığımızda, hayatımız üzerinde kontrolümüz olduğu hissini kaybederiz.

Bir概念 olarak tehlikeli olan bir kavram, dünyanın sürtünmesiz bir şekilde tasarlanmasıdır, sürtünme ise “müşterinin bir şirketle yolculuğunda yavaşlaması veya memnuniyetsizliğe neden olan herhangi bir nokta” olarak tanımlanır. Sürtünmesiz bir deneyim beklemenin AI’nin tehlikeli olabileceği şekilde nasıl yol açabileceğini açıklayabilir misiniz?

Yeni Zelanda’da, bir Pak’n’Save yemek botu, klorlu gaz oluşturabilecek bir tarifi önerdi. Bu, müşterilerin artıkları kullanmalarına ve para kazanmalarına yardımcı olmak için bir yol olarak sunuldu.

Sürtünmesizlik, kontrolün bir illüzyonunu yaratır. Uygulamaya dinlemek, büyükannenin tarifine bakmaktan daha hızlı ve kolaydır. İnsanlar en az dirençli yolu izler ve nereye gittiğini fark etmezler.

Sürtünme, ngượcine, yaratıcıdır. Katılırsınız. Bu, gerçek kontrolü sağlar. Gerçek kontrol, dikkat ve çalışma gerektirir ve – AI’nin durumunda – genişletilmiş bir maliyet-fayda analizi yapmayı gerektirir.

İnsanların sürtünmesiz bir dünya yaşadığını hissettikleri, ancak aslında kontrolü olmayan bir dünyada yaşadıkları örnekler verebilir misiniz?

Şu anda San Francisco’da robotaksi ile. Self-sürüşlü taksiler, iki çatışan duyguyu ortaya çıkarır: Heyecan (“daha düşük maliyetli taksiler!”) ve korku (“bana çarpabilirler mi?”). Bu nedenle, birçok düzenleyici, insanların içinde test edilmesi gerektiğini, böylece sistemleri gerçek zamanlı olarak geçersiz kılabilmesini önerir. Ne yazık ki, sistemleri geçersiz kılma yeteneğine sahip insanlar, genellikle bu teknolojilere karşı güvensizdir ve dikkatli olmazlar. AI sistemleri, insan operatörlerin dikkatini çekmez ve bir kaza olacağından şüphelenmezler.

Kitaba çok fazla araştırma gitti, sizin için sürpriz olan bir şey var mı?

Bize gerçekten şaşırtan şey, insanların self-sürüşlü araba çarpışma simülasyonunda The Moral Machine‘de kimin yaşaması ve kimin ölmesi gerektiği konusunda anlaşamamasıydı. Eğer bunu yapamıyorsak, o zaman AI sistemleri için küresel bir yönetim veya evrensel standartlar olabileceğini hayal etmek zor.

İkiniz de kendinizi girişimci olarak tanımlıyorsunuz, bu kitapta öğrendiklerinizi ve paylaştıklarınızı gelecekteki çabalarınızı nasıl etkileyecek?

AI Danışmanlık uygulamamız, organizasyonların teknoloji ile sorumlu bir şekilde büyümesine yardımcı olmaya yöneliktir. Avukatlar, mühendisler, sosyal bilimciler ve iş düşünürleri, AI’nin geleceğinde paydaşlar. Çalışmamızda, bu perspektifleri bir araya getiriyoruz ve daha iyi çözümler bulmak için yaratıcı sürtünme uyguluyoruz. İstenen risk hesaplarını yardımcı olmak için çerçeve geliştirdik.

Harika cevaplar için teşekkür ederiz, daha fazla öğrenmek isteyen okuyucular The AI Dilemma‘ya ziyaret edebilir.