Grace Yee, Adobe’de Etik İnovasyon Senior Direktörü (AI Etik ve Erişilebilirlik) – Röportaj Serisi

Grace Yee, Adobe’de Etik İnovasyon Senior Direktörüdür (AI Etik ve Erişilebilirlik) ve şirketin endüstri lideri AI yeniliklerinin sürekli olarak Adobe’nin temel değerleri ve etik ilkeleriyle uyumlu bir şekilde evrimleşmesini sağlamak için küresel, şirket çapında çalışmaları yönetmektedir. Grace, Adobe’nin sorumlu bir şekilde teknoloji geliştirmeye ve kullanmaya olan taahhüdünü ilerletmektedir ve şirketin tüm AI geliştirme çalışmalarında etik ve kapsayıcılık odaklıdır. Bu çalışmaların bir parçası olarak, Grace, Adobe’nin AI Etik Komitesi ve İnceleme Kurulunu denetler, bu kurul Adobe’nin geliştirme ekiplerine rehberlik sağlamak ve yeni AI özelliklerini ve ürünleri Adobe’nin hesap verebilirlik, sorumluluk ve şeffaflık ilkelerine uygunluğunu sağlamak için incelemektedir. Bu ilkeler, AI özelliklerini piyasaya sürerken zararlı ve önyargılı sonuçları önlemenin yanı sıra hesap verebilirlik, sorumluluk ve şeffaflık sağlar.

Adobe’nin erişilebilirlik taahhüdünün bir parçası olarak, Grace, Adobe’nin ürünlerinin tüm kullanıcılar için kapsayıcı ve erişilebilir olmasını sağlar, böylece herkes dijital deneyimler oluşturabilir, etkileşimde bulunabilir ve bunlarla etkileşimde bulunabilir. Onun liderliğinde, Adobe, hükümet grupları, ticaret dernekleri ve kullanıcı toplulukları ile birlikte erişilebilirlik politikaları ve standartlarını teşvik etmek ve etkili endüstri çözümleri geliştirmek için çalışır.

Adobe’nin son beş yılda AI Etik alanında yolculuğunu anlatır mısınız? Bu evrimi tanımlayan ana kilometre taşları nelerdir, özellikle hızlı gelişen teknolojiler gibi generatif AI karşısında?

Beş yıl önce, AI Etik sürecimizi resmi olarak oluşturduk ve hesap verebilirlik, sorumluluk ve şeffaflık ilkelerini AI Etik yönetim sürecimizin temeli olarak belirledik. Adobe’deki dünyanın dört bir yanından gelen çeşitli, çok fonksiyonlu bir ekip bir araya getirdik ve zamanın sınavından geçebilecek eyleme geçirilebilir ilkeler geliştirdik.

Bundan sonra, potansiyel riskleri ve önyargıları AI geliştirme döngüsünün erken aşamalarında belirlemek ve hafifletmek için kapsamlı bir inceleme sürecini geliştirdik. Bu çok parçalı değerlendirme, zararlı önyargı ve stereotipleri pekiştirebilecek özellikler ve ürünleri belirleme ve ele alma konusunda bize yardımcı oldu.

Generatif AI ortaya çıktığında, yeni etik zorlukları ele almak için AI Etik değerlendirmemizi uyarladık. Bu iteratif süreç, potansiyel sorunların önüne geçmemizi ve AI teknolojilerimizin sorumlu bir şekilde geliştirilip dağıtılmasını sağlamamızı sağladı. Farklı şirket içi ekiplerle sürekli öğrenme ve işbirliği, AI Etik programımızın alaka düzeyini ve etkinliğini korumak için çok önemli oldu ve sonunda müşterilere sunduğumuz deneyimi geliştirdi ve kapsayıcılığı teşvik etti.

Adobe’nin AI Etik ilkeleri – hesap verebilirlik, sorumluluk ve şeffaflık – günlük operasyonlara nasıl yansır? Bu ilkelerin AI projelerine rehberlik edişini gösteren örnekler verebilir misiniz?

AI özelliklerimizde Adobe’nin AI Etik taahhütlerine uymak için sorumlu inovasyon için güçlü mühendislik uygulamaları uyguluyoruz ve sürekli olarak çalışanlarımızdan ve müşterilerimizden geri bildirim topluyoruz, böylece gerekli ayarlamaları yapabiliyoruz.

Yeni AI özelliklerine, potansiyel önyargı ve riskleri belirlemek ve hafifletmek için kapsamlı bir etik değerlendirme uygulanır. Adobe Firefly’i, generatif AI modelleri ailesini sunduğumuzda, zararlı stereotipleri pekiştirebilecek içerik oluşturmasını önlemek için değerlendirme yaptık. Bu değerlendirme, ürün ekipleriyle yakın işbirliği içinde, geri bildirim ve öğrenmelerin dahil edilmesini sağlayarak alaka düzeyini ve etkinliği korumak için iteratif bir süreçtir. Ayrıca, ürün ekipleriyle risk keşif egzersizleri yapıyoruz, potansiyel etkileri anlamak ve uygun test ve geri bildirim mekanizmaları tasarlamak için.

Adobe, özellikle küresel ve çeşitli bir kullanıcı kitlesinin kullandığı araçlarda AI’de önyargı ile ilgili endişeleri nasıl ele alır? Bir AI özelliğinde önyargının nasıl belirlendiğini ve hafifletildiğini gösteren bir örnek verebilir misiniz?

AI Etik değerlendirmemizi ve inceleme süreçlerimizi sürekli olarak ürün ve mühendislik ekiplerimizle yakın işbirliği içinde geliştiriyoruz. Birkaç yıl önce yaptığımız AI Etik değerlendirmesi, şimdikinden farklı ve gelecekte de değişiklikler olacağını öngörüyorum. Bu iteratif yaklaşım, yeni öğrenmeleri ve ortaya çıkan etik endişeleri teknolojiler gibi Firefly’nin gelişimi ile ele almamızı sağlar.

Örneğin, Firefly’ye çok dilli desteği eklediğimizde, ekibim beklenen çıktıyı vermediğini ve bazı kelimelerin kasıtlı olarak engellenmediğini fark etti. Bunu hafifletmek için, uluslararasılaştırma ekibi ve yerel konuşmacılarla yakın çalışarak modellerimizi genişlettik ve ülke özgü terim ve anlamları kapsayacak şekilde geliştirdik.

Değerlendirme yaklaşımımızı teknoloji ilerledikçe uyarlamamız, Adobe’nin inovasyonu etik sorumlulukla dengelemesini sağlar. Kapsayıcı ve duyarlı bir süreç teşvik ederek, AI teknolojilerimizin şeffaflık ve bütünlük standartlarına uygunluğunu garantileyerek, yaratıcıların araçlarımızı güvenle kullanmalarını sağlıyoruz.

AI düzenlemelerinin hızla değiştiği bir ortamda, Adobe nasıl AI’de inovasyon ile etik sorumluluk arasında denge kuruyor? Adobe, bu düzenlemelerin şekillenmesinde nasıl bir rol oynuyor?

Policymakers ve endüstri grupları ile aktif olarak etkileşime girerek, inovasyonu etik endişelerle dengeleyen politikaları şekillendirmeye yardımcı oluyoruz. Policymakers ile yapılan tartışmalar, AI’ye yaklaşımımızı ve insan deneyimlerini geliştirmek için teknoloji geliştirmenin önemini vurgulamaktadır. Düzenleyiciler, mevcut zorlukları ele almak için pratik çözümler aramaktadır ve bizim gibi şirketlerin AI Etik ilkelerini – işbirliği içinde geliştirilen ve AI özelliklerinde tutarlı bir şekilde uygulanan – sunması, daha üretken tartışmaların oluşmasına katkıda bulunmaktadır. Somut örnekler sunmak, bu ilkelerin nasıl çalıştığını göstermek ve gerçek dünya etkisini göstermek önemlidir.

Adobe, AI modelleri için eğitim verilerini kaynaklanırken hangi etik endişeleri önceliklendirmektedir? Verilerin hem etik hem de AI’nin ihtiyaçları için yeterli olduğundan emin olmak için nasıl bir süreç izlemektedir?

Adobe’de, AI modellerimiz için eğitim verilerini kaynaklarken several ana etik endişeleri önceliklendirmekteyiz. Firefly’yi ticari olarak güvenli hale getirmek için lisanslı içerik ve kamu malı içerik gibi veri setlerini kullandık ve veri setlerindeki çeşitliliği, zararlı önyargı ve stereotipleri önlemek için önemsemekteyiz. Bunu gerçekleştirmek için, çeşitli ekipler ve uzmanlarla birlikte veri setlerini gözden geçiriyor ve küratıyoruz. Bu uygulamalara uymak, sadece güçlü ve etkili AI teknolojileri geliştirmekle kalmaz, aynı zamanda tüm kullanıcılar için etik ve kapsayıcı AI teknolojileri oluşturmayı hedefler.

Kullanıcıların Adobe’nin AI sistemleri gibi Firefly’nin nasıl eğitildiğini ve kullanılan verilerin neler olduğunu bilmeleri ne kadar önemlidir?

Kullanıcıların, Adobe’nin generatif AI özelliklerinin nasıl eğitildiğini ve kullanılan verilerin neler olduğunu bilmeleri çok önemlidir. Bu, kullanıcıların teknoloji arkasındaki süreçleri anlamalarına yardımcı olarak güven ve güveni oluşturur. Veri kaynaklarımızı, eğitim yöntemlerimizi ve etik güvencelerimizi açık bir şekilde paylaşarak, kullanıcıların ürünlerimizle nasıl etkileşimde bulunacaklarına dair bilinçli kararlar alabilmelerini sağlıyoruz. Bu şeffaflık, sadece AI Etik ilkelerimize uygunluk sağlamakla kalmaz, aynı zamanda kullanıcılarımızla işbirliği içinde bir ilişki kurmamızı sağlar.

AI, özellikle generatif AI, ölçeklendirilirken şirketlerin Adobe gibi karşı karşıya kalacağı en önemli etik zorlukların neler olacağını düşünüyorsunuz?

Zararlı önyargıları hafifletmek, kapsayıcılığı sağlamak ve kullanıcı güvenini korumak, şirketler için en önemli etik zorluklar olacaktır. AI’nin yanlışlıkla stereotipleri pekiştirebilecek veya zararlı ve yanıltıcı içerik oluşturabilecek potansiyeli, sürekli olarak dikkatli olunmasını gerektiren bir endişe kaynağıdır. Örneğin, recent generatif AI gelişmeleri ile “kötü aktörler” tarafından aldatıcı içerik oluşturulması, yanlış bilgi yayılması ve kamuoyunun manipülasyonu daha kolay hale geldi, bu da güven ve şeffaflığı zayıflatmaktadır.

Bu sorunu ele almak için Adobe, 2019 yılında dijital ekosistemi tüketiciler için daha güvenilir ve şeffaf hale getirmek için İçerik Kimlik Doğrulama Girişimini (CAI) kurdu. CAI, içerik kimlik bilgilerini – “bileşenler” veya önemli bilgiler gibi – içerir, bunlar arasında yaratıcının adı, bir görüntünün oluşturulduğu tarih, kullanılan araçlar ve yapılan düzenlemeler bulunur. Bu, kullanıcıların dijital bir güven ve kimlik zinciri oluşturmasını sağlar.

Generatif AI ölçeklendirilirken, İçerik Kimlik Bilgilerini yaygın olarak benimsemek, dijital içerikte güveni yeniden tesis etmek için daha da önemli hale gelecektir.

AI geliştirme için etik çerçeveler oluşturmaya yeni başlayan diğer organizasyonlara ne tür tavsiyelerde bulunurdunuz?

Öncelikle, basit, pratik ve uygulanabilir ilkeler belirlemek önemlidir. Sık sık, teoride iyi görünen ancak pratikte uygulanamayan ilkelerle odaklanan şirketleri veya organizasyonları görüyorum. İlkelerimizin zamanın sınavından geçmesinin nedeni, eyleme geçirilebilir olmasıdır. AI özelliklerini değerlendirdiğimizde, ürün ve mühendislik ekiplerimiz neye bakacağımızı ve onlardan neler beklediğimizi bilir.

Ayrıca, bu sürecin iteratif olacağını bilmeleri gerektiğini öneririm. Beş veya on yıl sonra Adobe’nin ne icat edeceğini bilmeyebilirim, ancak yeni gelişmelere ve aldığımız geri bildirilere göre değerlendirmemizi uyarlayacağımızı biliyorum.

Harika bir röportaj için teşekkür ederiz. Daha fazla bilgi edinmek isteyen okuyucular Adobe‘yi ziyaret edebilir.