Tasarıma Göre Sorumluluk – Yapay Zeka Neden İnsan Öncelikli Olmalı

Yapay zeka, günlük hayatımızı tanımlayan dijital deneyimleri değiştiriyor. Kişiselleştirilmiş ürün önerilerinden ve öngörücü sağlık hizmetlerinden otonom sürüşe ve hatta eğlence parkı kuyruklarına kadar, yapay zeka bu deneyimleri daha ucuz, daha verimli ve hatta daha keyifli hale getiriyor. En azından vaat bu.

Ancak çok sık olarak, sözde "AI başarısızlığı" ile ilgili başlıklarla karşılaşıyoruz - kullanıcıların yanlış yönlendirildiğini, hayal kırıklığına uğradığını veya basitçe anlaşılmadığını hissettiği anlar. Ve güven bozulduğunda, AI'nın gerçekten anlamlı ve etkili olma potansiyeli de bozulur.

Kamu güveni aşınıyor. Neden? Çünkü çoğu sistem insan deneyimini göz önünde bulundurarak tasarlanmamıştır; hızlı, ölçeklenebilir ve karlı olan için tasarlanmıştır. Bu, yapay zeka yatırımlarını ikiye katlayan her ölçekteki şirket için büyük bir endişe kaynağı olmalıdır.

Güven oluşturmak için şirketlerin durup daha derin sorular sorması gerekiyor: Bu sistemi neden kuruyoruz? İlk etapta inşa edilmeli mi? Kısacası, yapay zekayı insan ihtiyaçlarına hizmet edecek şekilde mi tasarlıyoruz, yoksa insanları makine mantığına uyum sağlamaya mı zorluyoruz?

Yapay Zeka ile Güven Açığı

Yapay zeka çoğu zaman başarının doğruluk veya hız ile ölçüldüğü izole teknik ortamlarda geliştirilir ve değil sosyal etki veya kullanılabilirlik. Güvenin temel bir bileşeni olan etik düşünce, AI geliştirme hattına otomatik olarak dahil edilmez. Bu kopukluk, teoride yenilikçi olabilecek ancak pratikte yetersiz kalan sistemlerle sonuçlanır.

Bizi daha iyi tanımak için Air Canada'nın sohbet robotu, bir müşteriyi yas ücreti politikası hakkında kendinden emin bir şekilde yanlış bilgilendirdi, ancak şirket, chatbot'un söylediklerinden sorumlu olmadığını savundu. Veya Meta'nın yapay zeka sohbet robotu, arama sonuçlarında gerçek dışı ifadeler sunan. Bu örnekler teknik aksaklıklardan daha fazlasını yansıtıyor; AI uygulamalarını empati, güvenlik bariyerleri ve gerçek dünya bağlamı ile tasarlamada sistemsel bir başarısızlığı ortaya koyuyorlar.

Halkın dikkatini çekti. Pew Araştırma MerkeziAmerikalıların %59'u ve AI uzmanlarının %55'i, ABD şirketlerinin AI'yı sorumlu bir şekilde geliştireceğine dair çok az veya hiç güven duymuyor. Bu, göz ardı edemeyeceğimiz bir güven açığı.

İnsan Odaklı Tasarım Bir Lüks Değildir

Tasarım, yapay zeka için bir vitrin süslemesi değildir. Nasıl davrandığı ve son kullanıcılar tarafından nasıl algılandığı konusunda temeldir. İnsan merkezli tasarım, tasarladığımız insanları anlamakla başlar: hedefleri, hayal kırıklıkları, değerleri ve yaşanmış gerçeklikleri.

Tasarım sürecinde teknolojinin insan ihtiyaçlarına hizmet ettiğinden emin olmak için çok özel sorular sormak ve şunları tanımlamak zorunludur:

• Kimler için tasarlıyoruz?
• Hedefleri, değerleri ve karşılaştıkları zorluklar nelerdir?
• Sistemlerle duygusal ve işlevsel olarak nasıl etkileşime giriyorlar?
• Ürün güvenilir mi ve vaatlerini yerine getiriyor mu?
• Her türden insan için kapsayıcılığı ve erişilebilirliği teşvik ediyor mu?

Bunlar soyut sorular değil. Bunlar doğrudan yapay zekanın vahşi doğada nasıl performans gösterdiğini şekillendirir. Ve sağlık, güvenlik veya eğitim gibi yüksek riskli bağlamlarda, bir sistemin kapsayıcı ve adil mi yoksa kafa karıştırıcı ve zararlı mı olduğunu belirleyebilirler.

Daha İyi Bir Tasarım Nasıl Görünür

Tasarımcılar, prototipleme, test etme ve yineleme süreciyle insan ihtiyaçlarını makine yetenekleriyle birleştirir ve bu da ürünlerin onları kullanan kişiler için anlamlı olmasını sağlar. Buna, yapay zekanın nasıl iletişim kurduğu, hangi kararları otomatikleştirdiği ve kullanıcıya ne kadar kontrol sağladığı sorusunu sormak da dahildir.

Örneğin eğlence parklarını ele alalım. Yapay zeka bu yaz devreye giriyor bekleme sürelerini azaltmak, deneyimleri kişiselleştirmek ve kalabalık akışını yönetmek için. Bu umut vadeden bir kullanım örneği. Ancak başarı yalnızca verimle ilgili değildir. İyi tasarlanmış bir sistem önceliklendirecektir insan deneyimi, sadece verimlilik değil. Bu, şeffaf mesajlaşma, sezgisel arayüzler, net katılımlar ve benzersiz ihtiyaçları olan kullanıcılar (akıllı telefonları olmayan aileler veya erişilebilirlik ihtiyaçları olan misafirler gibi) için geri dönüş seçenekleri anlamına gelir.

Buradaki fırsat sadece lojistik iş operasyonlarını kârlılık lehine optimize etmek değil; neşeyi artırmak, sürtüşmeyi azaltmak ve mekanik değil büyülü hissettiren paylaşılan deneyimler yaratmaktır. Bu, tasarım için bir fırsattır.

İnsan Unsurunun Test Edilmesi

İnsan merkezli AI tasarımında test kritik öneme sahiptir. Potansiyel son kullanıcıları erken ve sık sık sürece dahil etmek, olası kör noktaları belirlemek amacıyla idealdir. Kullanıcılar bir sistemi anlayamadığında veya güvenemediğinde, arka ucu ne kadar etkileyici olursa olsun sistem başarısız olmuştur.

Test ayrıca, AI odaklı deneyimlerde sıklıkla göz ardı edilen erişilebilirliği de sağlar. Bir sohbet robotu teknik olarak işlevsel olabilir, ancak nöroçeşitli kullanıcılara veya ana dili olmayan konuşmacılara hizmet etmiyorsa, gerçekten işlevsel değildir. Kapsayıcı tasarım yalnızca marjları iyileştirmekle kalmaz, aynı zamanda herkes için ürünleri güçlendirir.

Sorumluluk Tasarımla Başlar

Politikalar, sınırları belirlemeye ve en kötü sonuçları önlemeye yardımcı olabilir. Bu nedenle, şu gibi çerçeveler: AB Yapay Zeka Yasası ve Yapay Zeka Haklar Bildirgesi için Plan kritik adımlardır. Ancak uyumluluk sadece tabandır. Tasarım tavana nasıl ulaştığımızdır.

Şirketler, onur, temsilcilik ve denetimi destekleyen AI sistemleri oluşturmak için kontrol listelerinin ötesine geçmelidir. Bu, insan yargısını tamamen otomatikleştirme dürtüsüne direnmek ve bunun yerine onu artıran araçlar tasarlamak anlamına gelir. Sorumlu AI, insan kontrolünü ortadan kaldırmaz; aksine, onu güçlendirir.

Bu çalışma yalnızca teknik değildir. Tasarımcılar, mühendisler, politika uzmanları ve etik uzmanlarından oluşan çok disiplinli ekiplerin ilk günden itibaren birlikte çalışmasını gerektirir. Bu, tasarım yapmak anlamına gelir ile insanlar, sadece için Onları.

Yapay Zekayı Şekillendirmede Tasarımcıların Rolü

Tasarımcılar, AI'nın yörüngesini şekillendirmede benzersiz bir rol oynarlar. Hem makinelerin yapılandırılmış mantığında hem de insan yaşamının karmaşıklığında akıcı olan çevirmenlerdir. Tasarımcılar, verilerin tek başına yakalayamayacağı sürtünme noktalarını, duygusal ipuçlarını ve sosyal çıkarımları tanımak üzere eğitilirler.

Teknolojinin insan ihtiyaçlarına hizmet etmesini sağlayan belirli sorulara benzer şekilde, tasarımcılar eğitim verilerine tam olarak uymayan şu tür soruları da savunmalıdır:

• Bu durum birine nasıl hissettiriyor?
• Kontrol kullanıcıda mı?
• İşler ters gittiğinde ne olur?

Tasarım, yapay zeka sürecinin sonuna "iyi görünmesini sağlamak" için sıklıkla dahil edilir. Ancak tasarımın gerçek gücü stratejiktir. Sadece arayüzlerin nasıl göründüğünü değil, sorunların ilk etapta nasıl tanımlandığını da şekillendirmelidir.

Önce İnsan, Önce Makine Değil

Yapay zeka sadece teknik bir zorluk değil, aynı zamanda bir tasarım zorluğudur. Ve bununla başa çıkmak için, en başından itibaren insan değerlerini merkeze almalıyız.

İnsan merkezli yapay zeka bir lüks değil, bir zorunluluktur. Güvenilir, sağlam, tarafsız, denetlenebilir ve uyumlu sistemler yaratır. Ama bundan da öte, son kullanıcıya fayda sağlayan ve insan üretkenliğini ve potansiyelini artıran ürünler inşa eder.

Teknolojinin insanlara hizmet ettiği, tam tersinin olmadığı bir gelecek tasarlamak için araçlara ve sorumluluğa sahibiz. Bu gelecek tasarımla başlar.