Tasarımla Sorumlu – Neden AI İnsan Odaklı Olmalıdır

Yapay zeka, günlük hayatımızı tanımlayan dijital deneyimleri değiştiriyor. Kişiselleştirilmiş ürün önerilerinden ve öngörülü sağlık hizmetlerine, otonom sürüşten ve hatta eğlence parkı kuyruklarına kadar, AI bu deneyimleri daha ucuz, daha verimli ve hatta keyifli hale getiriyor. En azından, bu vaat ediliyor.

Ama çok sık, kullanıcıların yanlış yönlendirildiğini, hayal kırıklığına uğradığını veya simplemente anlaşılmadığını hissettiği “AI hataları” hakkında haberlerle karşılaşıyoruz. Ve güven bozulduğunda, AI’nin gerçekten anlamlı ve etkili olabilmesi için gereken potansiyel de bozulur.

Kamusal güven azalıyor. Neden? Çünkü çoğu sistem insan deneyimi göz önünde bulundurularak tasarlanmıyor – hızlı, ölçeklenebilir ve kârlı olan şeyler için tasarlanıyorlar. Bu, AI yatırımlarına odaklanan tüm şirketler için büyük bir endişe kaynağı olmalıdır.

Güveni oluşturmak için şirketlerin daha derin sorular sorması gerekir: Bu sistemi neden inşa ediyoruz? İlk plaatsa inşa edilmeli mi? Kısacası, insan ihtiyaçlarına hizmet etmek için AI’yi tasarlıyor muyuz – yoksa insanları makine mantığına uydurmak mı zorluyoruz?

AI ile Güven Boşluğu

Çok sık, AI izole teknik ortamlarda geliştirilir, burada başarı hız veya doğrulukla ölçülür ve değil sosyal etkiler veya kullanılabilirlik. Etik düşünme, güvenin temel bir bileşeni, AI geliştirme pipeline’ına otomatik olarak dahil edilmez. Bu bağlantı, teoride yenilikçi ama uygulamada eksik sistemlere yol açar.

Air Canada’nın sohbet botu gibi, bir müşteriyi keder ücreti politikası hakkında yanlış bilgilendiren, ancak şirketin sohbet botunun söylediği şeyden sorumlu olmadığını iddia eden bir örnek verilebilir. Ya da Meta’nın AI sohbet botu, arama sonuçlarında gerçeğe aykırı ifadeler sunan bir başka örnek. Bu örnekler, teknik aksaklıklardan daha fazlasını yansıtır; bunlar, empati, güvenlik koridorları ve gerçek dünya bağlamı ile AI uygulamalarını tasarlamadaki sistemik bir başarısızlığı ortaya koyar.

Kamu bunu fark etti. Pew Araştırma Merkezi‘ne göre, Amerikalıların %59’u ve AI uzmanlarının %55’i, ABD şirketlerinin AI’yi sorumlu bir şekilde geliştirmesine güvenmiyor. Bu, göz ardı edilemeyecek bir güven boşluğu.

İnsan Merkezli Tasarım Bir Lüks Değil

Tasarım, AI için yalnızca bir süsleme değil, AI’nin nasıl davrandığı ve son kullanıcılara nasıl algılandığı temelinde önemlidir. İnsan merkezli tasarım, tasarladığımız insanların hedeflerini, hayal kırıklıklarını, değerlerini ve yaşadıkları gerçekleri anlamaya başlar.

Tasarım sürecinde, teknolojinin insan ihtiyaçlarına hizmet etmesi için çok spesifik sorular sormak zorunludur, tanımlayan:

• Kim için tasarlıyoruz?
• Onların hedefleri, değerleri ve zorlukları neler?
• Onlar sistemlerle nasıl duygusal ve işlevsel olarak etkileşime girer?
• Ürün güvenilir midir ve dediğini yapar mı?
• Farklı türdeki insanların tümü için kapsayıcı ve erişilebilir mi?

Bu sorular soyut değil. AI’nin vahşi doğada nasıl performans gösterdiğine doğrudan şekil verir. Ve sağlık, güvenlik veya eğitim gibi yüksek riskli bağlamlarda, bir sistemin kapsayıcı ve adil olup olmadığını yoksa karmaşık ve zararlı olup olmadığını belirleyebilir.

Daha İyi Bir Tasarım Nasıl Olur

Tasarımcılar, prototip oluşturma, test etme ve yineleme sürecini kullanarak insan ihtiyaçlarını makine yetenekleriyle birleştirir, bu da ürünlerin kullanıcılar için anlamlı olmasını sağlar. Bu, AI’nin nasıl iletişim kurduğunu, hangi kararları otomatikleştirdiğini ve kullanıcıya ne kadar kontrol sunduğunu sorgulamayı içerir.

Eğlence parklarını örnek olarak alalım. AI, bu yaz beklemeyi azaltmak, deneyimleri kişiselleştirmek ve kalabalık akışını yönetmek için kullanılmaktadır. Bu, vaat edilen bir kullanım örneği. Ancak başarı, yalnızca verimlilikle ilgili değil. İyi tasarlanmış bir sistem, insan deneyimine öncelik verecektir, yalnızca verimlilik değil. Bu, şeffaf iletişimi, sezgisel arayüzleri, açık seçenekler ve kullanıcıların benzersiz ihtiyaçları (akıllı telefonu olmayan aileler veya erişilebilirlik ihtiyaçları olan konuklar gibi) için geri dönüş seçeneklerini içerir.

Buradaki fırsat, yalnızca lojistik iş operasyonlarını optimize etmek değil, keyfi yükseltmek, sürtüşmeyi azaltmak ve mekanik değil, büyülü hisseden paylaşılan deneyimler yaratmaktır. Bu, bir tasarım fırsatıdır.

İnsan Unsurlarını Test Etme

İnsan merkezli AI tasarımında test etme çok önemlidir. Potansiyel son kullanıcıları erken ve sık sık sürece dahil etmek idealdir, potansiyel kör noktaları belirlemek amacıyla. Kullanıcılar bir sistemi anlamaz veya güvenmezse, sistem başarısız olur, arka planı ne kadar etkileyici olursa olsun.

Test etme, genellikle AI destekli deneyimlerdeki erişilebilirliği de sağlar. Bir sohbet botu teknik olarak işlevsel olabilir, ancak nörodiversek kullanıcıları veya ana dili İngilizce olmayanları desteklemezse, gerçekten işlevsel değildir. Kapsayıcı tasarım, yalnızca marjinal gruplara değil, herkes için ürünleri güçlendirir.

Sorumluluk Tasarımla Başlar

Politikalar, sınırları belirlemeye ve en kötü sonuçları önlemeye yardımcı olabilir. Dolayısıyla, AB AI Yasası ve AI Hakları Çerçevesi gibi çerçeveler çok önemlidir. Ancak uyum, yalnızca zemin katıdır. Tasarım, tavana ulaşmak için nasıl davranacağımızı belirler.

Şirketlerin, insan onurunu, ajansı ve denetimi destekleyen AI sistemleri inşa etmesi gerekir. Bu, insan yargısını tamamen otomatikleştirmeye karşı direnmeyi ve bunun yerine insan yargısını güçlendiren araçlar tasarlamayı içerir. Sorumlu AI, insan kontrolünü silmez; tersine, onu güçlendirir.

Bu çalışma yalnızca teknik değil, aynı zamanda tasarım, mühendislik, politika uzmanları ve etik uzmanları gibi disiplinler arası ekiplerin bir arada çalışmasını gerektirir. Bu, insanlarla birlikte tasarım yapmayı, yalnızca onlar için değil, içerir.

Tasarımcıların AI’yi Şekillendirmedeki Rolü

Tasarımcılar, AI’nin yolunu şekillendirmede benzersiz bir rol oynar. Onlar, hem makinelerin yapılandırılmış mantığında hem de insan yaşamının karmaşıklığında akıcıdırlar. Tasarımcılar, veri alone tarafından yakalanamayan sürtüşme noktalarını, duygusal ipuçlarını ve sosyal etkileri tanımlamaya eğitilirler.

İnsan ihtiyaçlarını hizmet edecek teknolojiyi sorgulayan spesifik sorular gibi, tasarımcılar, eğitim verilerin içine düzgünce uymayan soruları savunmalıdır, gibi:

• Bu nasıl bir his yaratır?
• Kullanıcı kontrol altında mı?
• Şeyler yanlış gittiğinde ne olur?

Çok sık, tasarım, AI pipeline’inin sonunda “görünümü güzel yapmak” için getirilir. Ancak tasarımın gerçek gücü stratejiktir. Problemlerin nasıl tanımlanacağına şekil vermelidir, yalnızca arayüzlerin nasıl görüneceğine değil.

İnsan Odaklı, Makine Odaklı Değil

AI, yalnızca teknik bir zorluk değil, bir tasarım zorluğudur. Ve bunu karşılamak için, insan değerlerini baştan itibaren merkezileştirmeliyiz.

İnsan merkezli AI, bir lüks değil – bir gerekliliktir. Güvenilir, güvenilir, önyargısız, denetlenebilir ve uyumlu sistemler oluşturur. Ancak daha da önemli olarak, son kullanıcıya fayda sağlayan ve insan üretkenliğini ve potansiyelini yükselten ürünleri inşa eder.

Gelecekte teknolojinin insanları hizmet etmesi için, tasarım ile başlayan bir gelecek için araçlara ve sorumluluğa sahibiz. Bu gelecek, tasarım ile başlar.