Lama Nachman, Intel Fellow & Director of Anticipatory Computing Lab – Interview Series

Lama Nachman, Intel Fellow & Director of Anticipatory Computing Lab’dir. Lama, Prof. Stephen Hawking ile çalışmasıyla bilinir, Prof. Stephen Hawking’in iletişim kurmasını sağlayan bir asistan bilgisayar sistemi oluşturmak için önemli bir role sahipti. Bugün, İngiliz robotikçi Dr. Peter Scott-Morgan’a iletişim kurmasında yardımcı oluyor. 2017’de, Dr. Peter Scott-Morgan motor nöron hastalığı (MND) teşhisi aldı, ayrıca ALS veya Lou Gehrig hastalığı olarak da bilinir. MND, beyni ve sinirleri etkiler ve sonunda nefes alma ve yutma dahil tüm kasları felç eder.

Dr. Peter Scott-Morgan bir zamanlar şunları söyledi: “İnsan olarak öleceğim, bir cyborg olarak yaşayacağım.”

Sizi AI’ye neler çekti?

Her zaman teknolojinin büyük bir eşitlikçi olabileceği fikrine çekildim. Sorumlu bir şekilde geliştirildiğinde, sosyal eşitsizlikleri giderme ve insan potansiyelini artırma potansiyeline sahiptir. AI’de bu nowhere daha doğru değildir. Endüstri AI ve insanlar arasındaki ilişkiyi düşmanca olarak konumlandıran çok fazla konuşma varken, ben makinelerin ve insanların iyi olduğu benzersiz şeyler olduğuna inanıyorum, bu nedenle insan-AI işbirliği lensinden geleceğe bakmayı tercih ediyorum. Intel Labs’de Anticipatory Computing Lab’i yönetiyorum, burada – tüm araştırma çabalarımız boyunca – toplu toplumsal etki için ölçeklenebilir computing inovasyonu sunmaya odaklanıyoruz. AI zaten her yerde ve hayatın her yönünde artan ayak izi var, AI’yi daha erişilebilir, daha bağlam bilinci, daha sorumlu ve nihayetinde insanların gerçek dünyada yardımına gelen teknoloji çözümleri getirmek için takımımın yaptığı araştırmada büyük bir vaat görüyorum.

Prof. Stephen Hawking ile birlikte, onunla iletişim kurmasını ve çoğumuzun rutin olarak düşüneceği görevleri yapmasını sağlayan bir AI sistemi oluşturmak için yakın çalıştınız. Bu rutin görevlerin bazıları nelerdi?

Prof. Stephen Hawking ile çalışmak hayatımın en anlamlı ve zorlu girişimiydi. Ruhuma hitap etti ve teknolojinin insanların hayatlarını nasıl derinden iyileştirebileceğini gerçekten anlamamı sağladı. ALS ile yaşıyordu, bu hastalığın zamanla hastanın en basit aktivitelerini gerçekleştirebilme yeteneğini yok ettiğini biliyorduk. 2011’de, onunla birlikte asistan bilgisayar sistemini geliştirmek için çalışmaya başladık. İnsanlarla konuşmak için kullandığı bilgisayarının yanı sıra, Stephen bilgisayarını bizim gibi kullanıyordu, belgeler düzenleyerek, internette gezerek, konferanslar vererek, e-posta okuyup yazarak vs. Teknoloji Stephen’in fiziksel yetenekleri hızla azaldıktan sonra yıllarca dünya ile aktif olarak etkileşim kurmasına ve ilham vermesine devam etmesini sağladı. İşte bana göre teknolojinin birinin hayatında anlamlı bir etkisi budur!

Prof. Stephen Hawking ile çalışmaktan aldığınız bazı ana içgörüler nelerdi?

Bilgisayar ekranımız gerçekten dünyaya açılan kapıdır. İnsanlar bilgisayarlarını kontrol edebilirlerse, hayatlarının tüm yönlerini kontrol edebilirler (içerik tüketmek, dijital dünyaya erişmek, fiziksel ortamını kontrol etmek, tekerlekli sandalyesini yönlendirmek vs.). Konuşabilen ancak hareket edemeyen kişiler için konuşma tanıma ilerlemeleri, onların cihazlarını tam olarak kontrol etmelerine olanak tanır (ve büyük ölçüde fiziksel ortamını kontrol etmelerine). Ancak konuşamayan ve hareket edemeyen kişiler gerçekten bağımsızlık kazanamıyorlar. Prof. Hawking ile yaşadıklarım, asistan teknoloji platformlarının kullanıcıların özel ihtiyaçlarına göre uyarlanması gerektiğini öğretti. Örneğin, ALS’den mustarip kişiler için tek bir çözümün işe yaramayacağını çünkü hastalığın farklı yetenekleri farklı şekilde etkilediğini varsayamayız. Bu nedenle, geliştiricilerin farklı yetenekleri üzerine inşa edebileceği modüler, açık kaynaklı bir yazılım platformu olan ACAT (Assistive Context Aware Toolkit) inşa ettik.

Ayrıca, her kullanıcının kontrolü verme karşılığında daha fazla verimlilik için ne kadar rahat hissettiğinin anlaşılmasının önemli olduğunu öğrendim (bu, engelli kişilerle sınırlı değildir). Örneğin, AI, görevi daha hızlı veya daha verimli şekilde gerçekleştirmek için kullanıcının kontrolünden daha fazla şey alabilir, ancak her kullanıcı farklı bir risk algı düzeyine sahiptir. Bazıları daha fazla kontrolü vermek isterken, diğerleri daha fazla kontrolü elinde tutmak ister. Bu eşiğin anlaşılması ve insanların ne kadar ileri gidebileceğinin, bu sistemlerin nasıl tasarlanabileceğinin büyük bir etkisi vardır. Sistem tasarımı, yalnızca verimlilik ve doğruluk açısından değil, aynı zamanda kullanıcı konfor seviyesi açısından da yeniden düşünülmelidir.

Son zamanlarda, ALS’ten mustarip olan ve dünyanın ilk tam cyborg olma hedefi olan ünlü İngiliz bilim insanı Peter Scott Morgan ile çalıştınız. Peter’in bazı iddialı hedefleri nelerdir?

AAC (Assistive and Augmentative communication) ile ilgili sorunlardan biri “sessizlik boşluğu”dur. ALS’li birçok kişi (Peter dahil) başkleriyle konuşmak için ekranındaki harfleri ve kelimeleri seçmek için bakış kontrolü kullanır. Bu, birinin cümlesini bitirdikten sonra uzun bir sessizlik yaratır, çünkü kişi bilgisayarına bakar ve cevaplarını formüle etmeye başlar. Peter, bu sessizlik boşluğunu azaltmak ve iletişime sözlü spontaneliği geri getirmek istiyor. Ayrıca sesini ve kişiliğini korumak ve benzersiz iletişim tarzını ifade eden bir metin-konuşma sistemini kullanmak istiyor (örneğin, espri, hızlı zekâ, duyguları).

ALS’li İngiliz robotikçi Dr. Peter Scott-Morgan, 2019’da hayatını teknoloji kullanarak uzatmak için bir dizi ameliyat oldu. (Kredi: Cardiff Productions)

Dr. Peter Scott-Morgan’ı destekleyen bazı teknolojileri tartışabilir misiniz?

Peter, bizim Dr. Hawking ile çalışmamız sırasında ve daha sonra açık kaynak olarak yayınladığımız ACAT (Assistive Context Aware Toolkit) platformunu kullanıyor. Dr. Hawking’in yüz kaslarını “giriş tetikleyicisi” olarak kullanarak ekranındaki harfleri kontrol ettiğinden farklı olarak, Peter bakış kontrolü (mevcut ACAT’e eklediğimiz bir özellik) kullanarak konuşmak ve bilgisayarını kontrol etmek için kullanıyor, bu da CereProc şirketinden metin-konuşma çözümü ile bağlantılı ve ona farklı duyguları/vurguları ifade etme olanağı sağlıyor. Sistem ayrıca onun için özelleştirilmiş bir avatarı kontrol ediyor.

Şu anda, Peter’in ACAT ile daha yüksek düzeyde etkileşime girebilmesini sağlayan bir yanıt oluşturma sistemi üzerinde çalışıyoruz. Bu sistem, Peter’in zaman içinde yaptığı konuşmaları dinleyecek ve ekranında seçebileceği yanıtlar önerisinde bulunacak. Hedef, AI sisteminin Peter’in verilerini öğrenerek, onun en iyi yanıtları sadece bazı anahtar kelimelerle (bugün web’de aramalar gibi) sağlaması ve böylece Peter’in ve gelecekteki ACAT kullanıcılarının daha “doğal” bir tempoda iletişim kurmasını sağlamaktır.

AI’de şeffaflık konusunun öneminden bahsettiniz, bu ne kadar büyük bir sorun?

Karar verme sistemlerinde veya insan-AI işbirliği sistemlerinde özellikle büyük bir sorun. Örneğin, Peter’in asistan sisteminde, sistem bu önerileri neden yaptığını ve bu sistemin öğrenmesini nasıl etkileyebileceğimizi anlamamız gerekiyor.

Daha geniş bağlamda, karar verme sistemlerinde, tıbbi görüntüler temelinde teşhis yardımcı olmak veya kredi verme önerileri yapmak gibi, AI sistemlerinin kararlarına nasıl ulaştıklarına dair insan tarafından yorumlanabilir bilgiler sağlamaları gerekiyor, hangi özelliklerin veya özniteliklerin bu kararda en etkili olduğunu, sistemin bu çıkarımda ne kadar güven duyduğunu vs. Bu, AI sistemlerine güveni artırır ve insanların AI ile karıştırılan karar alma senaryolarında daha iyi işbirliği yapmasını sağlar.

AI’de özellikle ırkçılık ve cinsiyetçilik konusunda önyargı, büyük bir sorun, ancak bilmediğiniz önyargıları nasıl tespit edersiniz?

Bu, teknoloji ile alone çözülemeyen çok zor bir sorun. AI sistemlerinin geliştirilmesinde daha fazla çeşitlilik getirilmesi gerekiyor (ırk, cinsiyet, kültür, fiziksel yetenek vs.). Bugün bu sistemleri geliştiren nüfus açıkça bu konuda büyük bir boşluk içeriyor. Ayrıca, bu sistemlerin tanımı ve geliştirilmesinde sosyal bilim, felsefe, psikoloji, etik ve politika dahil olmak üzere çok disiplinli ekiplerin katılımı kritik. Belirli projeler ve sorunlar bağlamında sorgulama sürecine katılım gerekiyor.

İnsan potansiyelini artırma konusunda AI’nin en çok vaat gösteren alanlarından bazıları nelerdir?

Açık bir alan, engelli insanların daha bağımsız yaşamalarını, sevdikleriyle iletişim kurmalarını ve toplumda katkıda bulunmaya devam etmelerini sağlamaktır. Eğitimde büyük bir potansiyel görüyorum, öğrenci katılımını anlamak ve öğrenme deneyimini öğrencinin bireysel ihtiyaçlarına ve yeteneklerine göre kişiselleştirmek, katılımı artırmak, öğretmenleri bu bilgilerle güçlendirmek ve öğrenme sonuçlarını iyileştirmek. Bugün eğitimdeki eşitsizlik çok derin ve AI’nin bunu azaltmaya yardımcı olmak için bir yeri var, bunu doğru yaparsak. İnsan-AI işbirliği sistemleri birçok sektörde (sağlık hizmetleri, imalat vs.) çok fazla değer katabilir, çünkü insanların ve AI’nin getirdiği şeyler çok tamamlayıcı. Bunun gerçekleşmesi için sosyal bilim, HCI ve AI’nin kesişiminde inovasyona ihtiyacımız var. Sağlam çok modlu algılama, bağlam bilinci, sınırlı verilerden öğrenme, fiziksel olarak yerleştirilmiş HCI ve yorumlanabilirlik, bu vizyonu gerçeğe dönüştürmemiz gereken bazı ana zorluklar.

Gelecekte AI için duygusal tanıma konusunun öneminden bahsettiniz, neden AI endüstrisinin bu araştırma alanına daha fazla odaklanması gerekiyor?

Duygusal tanıma, insan-AI sistemleri için çok önemli bir yetenek. Birincisi, insan duygusu, proaktif bir sistemin önce davranabilmesi için gerekli insan bağlamını sağlar.

Daha da önemlisi, bu tür sistemlerin vahşi ortamlarda öğrenmeye ve kullanıcı ile etkileşimlerine dayanarak uyarlanmaya devam etmesi gerekir ve doğrudan geri bildirim birincil bir sinyal iken, dolaylı sinyaller çok önemlidir ve ücretsizdir (kullanıcı için daha az iş). Örneğin, bir dijital asistan, bir kullanıcının sesindeki frustrasyondan çok şey öğrenebilir ve bunu gelecekte ne yapacağına dair bir geri bildirim sinyali olarak kullanabilir, her seferinde kullanıcıdan geri bildirim istemek yerine. Bu bilgi, aktif öğrenen AI sistemlerinin zaman içinde kendilerini geliştirmesini sağlamak için kullanılabilir.

Anticipatory Computing Lab’de çalıştığınız veya tartıştığımız diğer konular hakkında paylaşmak istediğiniz bir şey var mı?

Asistan sistemleri inşa ederken, bunları sorumlu bir şekilde nasıl inşa edebileceğimizi ve insanların hangi bilginin toplandığını ve bu sistemleri nasıl kontrol edebileceklerini anlamalarına nasıl olanak sağlayabileceğimizi düşünmeliyiz. AI araştırmacıları olarak, thường veri ile ilgileniyoruz ve sistemleri geliştirmek için mümkün olduğunca çok veri toplamak istiyoruz, ancak topladığımız veri türü ve miktarı ile kullanıcı gizliliği arasında bir ticaret vardır. Topladığımız veriyi, yalnızca çıkarım görevini gerçekleştirmek için kesinlikle gerekli olanla sınırlamalıyız, kullanıcıları tam olarak hangi verilerin toplandığını bilmeliler ve bu ticaretin anlamlı ve kullanılabilir yollarla ayarlanmasını sağlamalıyız.

Bu harika röportaj için teşekkür ederiz, bu projenin daha fazlasını öğrenmek isteyen okuyucular Intel’s Lama Nachman and Peter Scott-Morgan: Two Scientists, One a ‘Human Cyborg’ makalesini okumalıdır.

Intel’in Anticipatory Computing Lab ekibi, Assistive Context-Aware Toolkit’i geliştirdi ve şunları içerir (soldan sağa): Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman ve Pete Denman. Resimde yer almayanlar: Bruna Girvent, Saurav Sahay ve Shachi Kumar. (Kredi: Lama Nachman)