Andrew Pery, Etik Evanjelist, ABBYY – Röportaj Serisi

Andrew Pery, ABBYY’nin Etik Evanjelistidir, bir dijital istihbarat şirketi. Kuruluşlar, işlemlerine ilişkin değerli ancak souvent zor erişilebilen iç görüleri elde etmelerini sağlar ve bu da gerçek iş dönüşümünü sağlar.

ABBYY yakın zamanda Güvenilir Yapay Zeka Geliştirme Yolunda Küresel Bir Girişim başlattı. Biz de Andrew’dan yapay zeka etiği, yapay zeka suiistimali ve bu endişelerle ilgili olarak yapay zeka endüstrisinin neler yapabileceği konusunda sorular sorduk.

Yapay zeka etiğine ilgi duymaya ne sizi itti?

Yapay zeka etiğine ilgi duymaya başladığım şey, hukuk ve yapay zeka teknolojisi arasındaki kesişme noktasındaki derin bir ilgiydi. Kariyerime yoksul sanıkları temsil ederek başladım, onlar finanziyel olarak yasal hizmetleri karşılayamıyorlardı. Daha sonra teknolojiye odaklandım ve hukukun uygulanmasında advanced arama ve yapay zeka kullanımına odaklandım.  Bir Sertifikalı Veri Gizliliği profesyoneli olarak, özellikle veri gizliliği hukuku ve yapay zeka teknolojisini gizliliği destekleyen şekilde kullanma konusunda tutkulu hissediyorum.

Yüz tanıma teknolojisi, ABD hükümeti de dahil olmak üzere yetki kaynakları tarafından souvent suiistimal ediliyor. Bu ne kadar büyük bir toplumsal endişe kaynağı olmalı?

Yüz tanıma teknolojisinin sonuçları, ekonomik, sosyal ve güvenlik hakları da dahil olmak üzere birçok temel hakka etki edebilecek önemli bir toplumsal endişe kaynağı olmalıdır.

Yüz tanıma algoritmalarının güvenilir olmadığına dair açık ve ikna edici kanıtlar vardır. NIST tarafından yapılan bir yüz tanıma algoritmaları çalışması, Afrika Amerikalıların yanlış tanımlanma olasılığının 100 kata kadar daha yüksek olduğunu buldu. Georgetown Law School tarafından yapılan bir başka çalışma, yüz tanıma algoritmalarının mug shot’lara dayalı olarak yüksek oranda yanlış pozitif sonuçlar ürettiğini ve bir 2018 MIT çalışması, Amazon (AMZN ) Yüz Tanıma Yazılımının beyaz erkekleri %99 oranında doğru tanımlarken, koyu tenli bireylerin %35’e varan yanlış pozitif sonuçlar ürettiğini buldu.

Bu nedenlerle, düzenleyiciler, özellikle gözetim ve profil oluşturma bağlamında yüz tanıma teknolojilerinin kullanımını yasaklamaya yönelik adımlar atmaya başlıyorlar. Örneğin, California Senatosu, yüz tanıma teknolojisi ve diğer biyometrik gözetim yöntemlerinin kullanımını yasaklayan bir yasa çıkardı.

Teknoloji topluluğu içinde de yüz tanıma yazılımının pazarlanmasından vazgeçme yönünde bir momentum var. IBM, yüz tanıma yazılımını satmayı bırakma kararı aldı, çünkü temel insan hakları ve özgürlüklerini ihlal ettiğini belirtti. Microsoft (MSFT ) da benzer bir karar aldı ve yüz tanıma teknolojisini satmayı bırakma kararı aldı.

COMPAS yazılımı, ABD mahkemelerinde suç riski değerlendirmesi için kullanılmış ve görünür azınlık suçlularının beyaz suçlulardan daha fazla yeniden suç işleme olasılığına sahip olduğunu yanlış bir şekilde işaretlemiştir. Mahkemelerde yapay zeka kullanımına izin verilmesi even bir seçenek olmalı mı?

COMPAS çalışması, bu yazılımda öngörülen suçları rastgele insanlardan daha iyi tahmin edemediğini gösterdi. Öngörücü analitik, ticari bağlamda önemli bir değer sağlar, ancak adalet sistemi uygulamasında eşitsizliklere neden olduğu kanıtlandı. Bu, Pro Publica tarafından yayınlanan bir raporda görüldüğü gibi, COMPAS, ABD mahkemeleri tarafından suç riski değerlendirmesi için kullanılan en popüler yazılım, görünür azınlık suçlularının yeniden suç işleme olasılığını beyaz suçlulardan iki kat daha fazla olarak yanlış bir şekilde işaretledi.

Bu eşitsizlikler, o zamanlar Adalet Bakanı Eric Holder’ın adil olmama ve öngörücü AI teknolojisini suçluların yeniden suç işlemesi olasılığını tahmin etmek için kullanılan potansiyel eşitsizliklere dikkat çekmesine neden oldu.

Toplum, AI sistemlerine olumsuz yanlılıkları nasıl programlamaktan kaçınabilir?

Öncelikle, AI’nin bilinçdışı yanlılık üretme eğilimine sahip olabileceğini kabul etmek gerekir. Bu olumsuz etkisini azaltmak için, etik AI kılavuzları geliştirilmesi gerekir, örneğin OECD Etik Çerçeveleri gibi. Bu, insan ajansının ve denetiminin, teknik dayanıklılık ve güvenliğin, gizliliğin ve yönetişimin, şeffaflığın, çeşitliliğin ve ayrımcılık yapılmamasının, toplumsal refahın ve hesap verilebilirliğin temel ilkelerine dayanır.

İkincisi, otomatik profil oluşturmayı korumaya yönelik yasal çerçevelere uymak önemlidir. Örneğin, AB, gizlilik haklarını korumaya yönelik uzun bir geçmişe sahiptir ve en recent ve güçlü ifadesi, özellikle otomatik karar vermeyi korumaya yönelik Genel Veri Koruma Yönetmeliği (GDPR) ile gerçekleşmiştir.

Üçüncüsü, endüstri, AI teknolojisini geliştirirken ve şeffaflık ve hesap verilebilirlik taahhüdünde bulunmalıdır. Pozitif gelişmeler var. Örneğin, AI Ortaklığı, 13 ülkede 80’den fazla üye ile AI’nin temel konularında araştırma ve tartışma yapan bir kuruluştur.

Son olarak, teknoloji şirketleri, AI algoritmalarının ticari olarak yayınlanmadan önce yanlılık etkisini değerlendirmeye taahhüt edilmelidir. Teknoloji liderleri, yeni AI destekli uygulamaları yayınlanmadan önce aşağıdaki soruları dikkate almalıdır: Bu teknoloji için kullanılan veri yeterince çeşitli mi? Yanlılık nasıl tespit edilecek? Kim tarafından test edilecek? Geliştirici teşvikleri nelerdir? Kim bu uygulamalardan ticari olarak yararlanacak?

AI çözümlerinin, bu uygulamaların eğitildiği alt verileri yansıttığını unutmamak önemlidir, bu nedenle bu verilerin yanlılık içermediğinden ve hizmet sağlayacağı kişiler için çeşitlilik gösterdiğinden emin olmak kritiktir. AI araştırmacısı Profesör Joanna Bryson’un sözleriyle, “Eğer alt veriler stereotipleri yansıtıyorsa veya insan kültüründen AI’yi eğitiyorsanız, yanlılık bulacaksınız. Ve dikkatli olmazsak, bu yanlılığı, hastanelerden okullara, hapishanelere kadar her şeyi yöneten bilgisayar programlarına entegre edeceğiz – bu programlar, aslında bu yanlılıkları ortadan kaldırmak için tasarlandı.”

ABBYY, Güvenilir Yapay Zeka Geliştirme Yolunda Küresel Bir Girişim başlattı. Bu girişim, ABBYY’nin geleceği için ne kadar önemlidir?

Güvenilir AI için küresel bir girişim geliştirmeye karar vermemiz, dünyadaki işletmelere etki eden teknolojilere sahip bir kuruluş olarak, sosyal bir vicdana sahip iyi bir kurumsal vatandaş olmakla ilgili bir karardı. Bu, sadece küresel müşterilerimiz ve iş ortaklarımızdan daha fazla güven kazanmamızı sağlar, aynı zamanda teknolojilerimizin ortak iyiye hizmet etmekte devam etmesini sağlar.

Bu, AI’nin güvenilir kullanımını teşvik etmek ve desteklemek de iyi bir iş kararıdır. Marka değerimizi güçlendirir, müşterilerimiz ve iş ortaklarımızla güven oluşturur. Güven, tekrar eden işleri ve sürdürülebilir büyümeyi sağlar.

Bu girişimin bir parçası olarak ABBYY, AI’nin etik kullanımını teşvik eden bir kültürü teşvik etmeye taahhüt ediyor. Diğer şirketlerin benzer bir kültürü teşvik etmesi için ne yapılması gerekiyor?

Teknoloji şirketleri, AI’nin etik kullanımına yönelik bir çerçeve oluşturmalıdır. AI algoritmalarının amaçlanan uygulamalarına bağlı olarak bu taahhütün kapsamı değişebilir. Etkisini değerlendirmek için “zarar vermeme” ilkesine uymak ve AI’nin güvenilir kullanımına yönelik üst düzey bir taahhüt gerekmektedir.

Şeffaflık taahhüdü de önemlidir. AI’nin sorumlu kullanımına ilişkin şeffaflık ve hesap verilebilirlik ilkesi, şirket içinde açık bir şekilde ifade edilmeli ve iletilmelidir.

ABBYY, AI teknolojilerini sosyal ve ekonomik olarak faydalı bir şekilde sunmaya taahhüt etti. Bu dengeyi sağlamak zor olabilir. Şirketler bunu en iyi nasıl uygulayabilir?

Liderler, Deloitte tarafından önerilen tavsiyelere dikkat ederek bu dengeyi sağlayabilir: AI’ye etik ilkelerini dahil etmek, paydaşların önceliklerini belirlemek, AI’nin tasarımını, geliştirilmesini, dağıtımını ve kullanımını denetlemek için bir AI yönetim ve danışma komitesi oluşturmak gerekir.

Biz, koronavirüs salgını sırasında birçok teknolojisini ücretsiz veya indirimli olarak sunarak, bireylerin ve organizasyonların krizi yönetmesine, iş sürekliliğini sağlamalarına ve müşterilerine destek olmalarına yardımcı olduk.

Son olarak, NeoML aracılığıyla teknoloji çerçevemizi açık kaynak olarak sunduk, bu da yazılım geliştiricilerinin kanıtlanmış ve güvenilir modelleri kullanarak AI yeniliklerini ilerletmelerini sağlar.

Kovid-19 uygulamaları için temas takibi amacıyla AI kullanımına ilişkin görüşlerinizi paylaşabilir misiniz ve bu konuda gizlilik hakları ile dengeyi nasıl kurabilirsiniz?

Bu özellikle zor bir meseledir. Bazıları, mobil takip uygulamalarının uygulanmasının gizlilik haklarına müdahale olduğunu iddia ediyor. Diğer yandan, kamu güvenliği söz konusu olduğunda, her zaman haklar üzerinde sınırlamalar vardır. Bu, haklar ve sorumluluklar arasında bir denge meselesidir. Ancak haklar mutlak değildir. Küresel bir salgını kontrol altına almak, kaynakların ve teknolojilerin sorumlu bir şekilde kullanılmasını gerektirir.

Bu denge, yasal bir çerçeve içinde tanınmaktadır. Örneğin, GDPR, kişisel verilerin işlenmesinin altı yasal dayanağından biri olarak, kamu menfaati için işlemenin gerekli olduğu durumlarda, kişisel verilerin işlenmesinin haklı olduğunu belirtir.

Daha fazla olarak, GDPR’nin 46. maddesi, kişisel verilerin işlenmesinin, insani acil durumlar da dahil olmak üzere, kamu menfaati için gerekli olduğunda, veri sahibinin rızası olmadan işlenmesinin haklı olduğunu belirtir. Ancak, bu madde, kamu menfaati hükümlerinin dar bir şekilde yorumlanmasını sağlar.

Ayrıca, teknoloji sektörü ve politika yapıcılar, AI destekli profil oluşturma ve hassas sağlık bilgilerinin paylaşılmasına ilişkin etik, şeffaf ve adil rehberler uygulamalıdır. Büyük teknoloji şirketleri, Google (GOOGL ) ve Facebook (META ), already kullanıcıların hareketlerini izleme girişimlerinde bulunmuş ve sosyal mesafe önlemlerinin etkinliğini değerlendirmiştir.

Eğer bilgi anonimleştirilirse, sosyal bir faydası vardır.

ABBYY’nin Güvenilir Yapay Zeka Geliştirme Yolunda Küresel Girişimi ile ilgili olarak paylaşmak istediğiniz başka bir şey var mı?

Düzenlemeler, teknolojik yeniliklerin gerisinde kalma eğilimindedir, bu nedenle şirketlerin AI teknolojilerinin şeffaflık ve hesap verilebilirliğini teşvik etmede proaktif bir rol oynaması gerekir. Girişimimiz, bu taahhütümüzü yansıtmaktadır. Kuruluşumuzun başlangıcından bu yana, değerli bilgileri koruyan ve eyleme geçirilebilir bilgiye dönüştüren yenilikçi teknolojiler yarattık.

Dahası, yapay zeka teknolojilerinin etik kullanımı, sadece yasal bir temelde değil, aynı zamanda ahlaki bir yükümlülük ve iş bir zorunluluk olarak düşünülmelidir. Çözümleriniz geniş bir etki alanı varsa ve iş kritik fonksiyonları etkileyorsa, AI teknolojilerinin uygulanmasında şeffaflık endüstrinin standardı olmalıdır.

Önemli soruları cevapladığınız için teşekkür ederiz. ABBYY’nin rehber ilkelerine ve güvenilir AI ilkelerine uyma ve savunma yaklaşımını görmek için buraya tıklayınız. ABBYY hakkında daha fazla bilgi edinmek isteyenler ABBYY web sitesini ziyaret edebilir.