Tasarımda Sorumlu – Neden AI İnsan Odaklı Olmalıdır

Yapay zeka, günlük hayatımızı tanımlayan dijital deneyimleri değiştiriyor. Kişiselleştirilmiş ürün önerilerinden ve öngörülü sağlık hizmetlerine, otonom sürüşten ve hatta eğlence parkı kuyruklarına kadar, AI bu deneyimleri daha ucuz, daha verimli ve hatta keyifli hale getiriyor. En azından, bu vaat ediliyor.

Ancak çok sık, kullanıcıların yanlış yönlendirildiğini, hayal kırıklığına uğradığını veya simplemente anlaşılmadığını hissettiği所-called “AI hataları” hakkında başlıklarla karşılaşıyoruz. Ve güven bozulduğunda, AI’nin gerçekten anlamlı ve etkili olabilme potansiyeli de bozuluyor.

Kamusal güven azalıyor. Neden? Çünkü çoğu sistem insan deneyimi göz önünde bulundurularak tasarlanmıyor – hızlı, ölçeklenebilir ve kârlı olan şeyler için tasarlanıyorlar. Bu, AI yatırımlarına odaklanan tüm şirketler için önemli bir endişe kaynağı olmalıdır.

Güven oluşturmak için şirketlerin durup daha derin sorular sormaları gerekiyor: Bu sistemi neden inşa ediyoruz? İlk miejsce bu inşa edilmeli mi? Kısacası, AI’yi insan ihtiyaçlarını karşılamak için tasarlıyor muyuz – yoksa insanları makine mantığına uymaya zorluyor muyuz?

AI ile Güven Arasındaki Uçurum

Çok sık, AI izole teknik ortamlarda geliştiriliyor, burada başarı hız veya doğrulukla ölçülüyor ve değil sosyal etki veya kullanılabilirlik. Etik düşünme, güvenin temel bir bileşeni, AI geliştirme pipeline’ına otomatik olarak dahil edilmiyor. Bu kopukluk, teoride yenilikçi ancak uygulamada eksik olan sistemlere yol açıyor.

Örneğin, Air Canada’nın sohbet botu, bir müşteriyi yas tutma ücreti politikası hakkında yanlış bilgilendirdi, ancak şirket sohbet botunun söylediği şeyden sorumlu olmadığını iddia etti. Ya da Meta’nın AI sohbet botu, arama sonuçlarında gerçeğe aykırı ifadeler sundu. Bu örnekler, yalnızca teknik arızaları değil, aynı zamanda AI uygulamalarını empati, güvenlik koridorları ve gerçek dünya bağlamıyla tasarlamadaki sistemik bir başarısızlığı ortaya koyuyor.

Halk bunu fark etti. Pew Research Center‘a göre, Amerikalıların %59’u ve AI uzmanlarının %55’i, ABD şirketlerinin AI’yi sorumlu bir şekilde geliştirmesine güvenmiyor. Bu, göz ardı edemeyeceğimiz bir güven boşluğu.

İnsan Merkezli Tasarım Bir Lüks Değil

Tasarım, AI için yalnızca bir süsleme değil. AI’nin nasıl davrandığına ve son kullanıcılar tarafından nasıl algılandığına ilişkin temel bir bileşendir. İnsan merkezli tasarım, tasarladığımız insanların hedeflerini, frustrasyonlarını, değerlerini ve yaşadıkları gerçeklikleri anlamaya başlar.

Tasarım sürecinde, teknolojinin insan ihtiyaçlarını karşılayıp karşılamadığını garantilemek için çok spesifik sorular sormak zorunludur, tanımlayan:

• Kim için tasarlıyoruz?
• Onların hedefleri, değerleri ve zorlukları neler?
• Onlar sistemlerle nasıl emocyonel ve fonksiyonel olarak etkileşimde bulunuyor?
• Ürün güvenilir mi ve dediği şeyi yapacak mı?
• Bütün farklı türdeki insanlara kapsayıcı ve erişilebilir mi?

Bu sorular soyut değil. AI’nin vahşi doğada nasıl performans gösterdiğine doğrudan şekil veriyor. Ve sağlık, güvenlik veya eğitim gibi yüksek riskli bağlamlarda, bir sistemin kapsayıcı ve adil olup olmadığını veya karıştırıcı ve zararlı olup olmadığını belirleyebilir.

Daha İyi Bir Tasarım Nasıl Olur

Tasarımcılar, prototip oluşturma, test etme ve yineleme süreci aracılığıyla insan ihtiyaçlarını makine yetenekleriyle köprüler. Bu, ürünlerin kullanıcılar için anlamlı olmasını sağlar. Bu, AI’nin nasıl iletişim kurduğunu, hangi kararları otomatikleştirdiğini ve kullanıcıya ne kadar kontrol sunduğunu sorgulamayı içerir.

Örneğin, eğlence parklarını ele alalım. AI bu yaz kuyrukları azaltmak, deneyimleri kişiselleştirmek ve kalabalık akışını yönetmek için kullanılmaktadır. Bu, vaat edilen bir kullanım örneği. Ancak başarı, yalnızca verimlilik hakkında değil. İyi tasarlanmış bir sistem, insan deneyimine öncelik verecektir, yalnızca verimlilik değil. Bu, şeffaf iletişimi, sezgisel arayüzleri, net seçenekler ve kullanıcıların benzersiz ihtiyaçları (akıllı telefonu olmayan aileler veya erişilebilirlik ihtiyaçları olan konuklar gibi) için geri dönüş seçeneklerini içerir.

Buradaki fırsat, yalnızca lojistik iş operasyonlarını optimize etmek değil, keyfi artırmak, sürtüşmeyi azaltmak ve büyülü hissetmeyen paylaşılan deneyimler yaratmaktır. Bu, bir tasarım fırsatıdır.

İnsan Unsurlarını Test Etme

İnsan merkezli AI tasarımında test etmek kritik öneme sahiptir. Potansiyel son kullanıcıları sürecin başlangıcında ve sık sık dahil etmek idealdir, potansiyel kör noktaları belirlemek amacıyla. Kullanıcılar bir sistemi anlayamadığında veya güvenmediğinde, sistem başarısız olmuştur, arka planı ne kadar etkileyici olursa olsun.

Test ayrıca erişilebilirliği garantiler, genellikle AI tarafından yönlendirilen deneyimler göz ardı edilir. Bir sohbet botu teknik olarak fonksiyonel olabilir, ancak nörodiverz kullanıcıları veya anadili olmayan konuşmacıları hizmet etmiyorsa, gerçekten fonksiyonel değildir. Kapsayıcı tasarım, yalnızca marjinal faydalanmakla kalmaz, aynı zamanda herkes için ürünleri güçlendirir.

Sorumluluk Tasarımla Başlar

Politikalar, sınırları belirlemeye ve en kötü sonuçları önlemek için yardımcı olabilir. Bu nedenle, EU AI Act ve AI Hakları Çerçevesi gibi çerçeveler, kritik adımlardır. Ancak uyum, yalnızca zemin katındadır. Tasarım, nasıl ulaştığımız tavanıdır.

Şirketler, insan onurunu, ajansı ve denetimi destekleyen AI sistemleri inşa etmek için kontrol listelerinden öteye gitmelidir. Bu, insan yargısını tamamen otomatikleştirmeye karşı direnmeyi ve bunun yerine insan yargısını güçlendiren araçlar tasarlamayı içerir. Sorumlu AI, insan kontrolünü silmez; aksine, onu güçlendirir.

Bu çalışma yalnızca teknik değil. İlk günden itibaren birlikte çalışan tasarımcılar, mühendisler, politika uzmanları ve etik uzmanlarından oluşan disiplinler arası ekiplere ihtiyaç duyar. Bu, insanlarla birlikte tasarım yapmayı, yalnızca onlar için değil, içerir.

Tasarımcıların AI’nin Yönünü Şekillendirmedeki Rolü

Tasarımcılar, AI’nin yönünü şekillendirmede benzersiz bir rol oynar. Makinelerin yapılandırılmış mantığında ve insan yaşamının karmaşıklığında akıcı olan çevirmenler gibidirler. Tasarımcılar, sürtüşme noktalarını, duygusal ipuçlarını ve sosyal etkileri tanımlamaya eğitilirler, bunlar veri alone yakalanamaz.

İnsan ihtiyaçlarını karşılayacak teknolojiyi garantilemek için spesifik sorular sormak gibi, tasarımcılar, eğitim verilerinin içine düzgün bir şekilde uymayan soruları savunmalılar:

• Bu nasıl bir his veriyor?
• Kullanıcı kontrol altında mı?
• Şeyler yanlış gittiğinde ne olur?

Çok sık, tasarım, AI pipeline’inin sonuna getirilir ve yalnızca “görünüşünü iyileştirmek” için kullanılır. Ancak tasarımın gerçek gücü stratejiktir. Problemlerin nasıl tanımlanacağına şekil vermelidir, yalnızca arayüzlerin nasıl görüneceğine değil.

İnsan Önceliği, Makine Önceliği Değil

AI, yalnızca bir teknik zorluk değil, bir tasarım zorluğudur. Ve bunu karşılamak için, insan değerlerini başlangıçtan itibaren merkezde tutmalıyız.

İnsan merkezli AI, bir lüks değil – bir zorunluluktur. Güvenilir, güvenilir, önyargısız, denetlenebilir ve uyumlu sistemler oluşturur. Ancak daha da önemlisi, son kullanıcıya fayda sağlayan ve insan verimliliğini ve potansiyelini yükselten ürünleri inşa eder.

İnsanlara hizmet eden bir gelecek tasarlamak için araçlara ve sorumluluğa sahibiz. Bu gelecek, tasarımla başlar.