Avrupa Birliği’nin Taslak Yapay Zeka Yasasının Eksiklikleri

Avrupa Birliği’nin taslak ‘Yapay Zeka Yasası’na yönelik yeni bir hukuki eleştiri, proposed düzenlemelere geniş bir eleştiri yelpazesi yöneltmekte ve Nisan ayında yayınlanan düzenlemelerin çoğunun ‘1980’lerin tüketici düzenlemelerinden scarcely uygulanabilir bir şekilde bir araya getirildiğini, aslında Avrupa’da yapay zeka ortamının düzenlenmesinden ziyade deregülasyonunu teşvik ettiğini ve diğer birçok eleştiri arasında önerilen düzenlemelerin ‘az anlam ve etki’ içeren bir gelecekteki düzenleyici yapay zeka çerçevesi çizdiğini belirtmektedir.

UCL Londra ve Nijmegen’deki Radboud Üniversitesi’nden araştırmacılar arasındaki bir işbirliği olan Avrupa Birliği’nin Taslak Yapay Zeka Yasasını Çıplaklaştırma adlı ön baskı, ön baskı olarak yayınlandı.

Yapay zeka çerçevesinin proposed uygulanması (niyetinden ziyade) hakkında olumsuz görüşlerin artan bir gövdesine katkıda bulunan bu makale, ayrıca Nisan ayında yayınlanan bir makalede, taslak düzenlemenin kendi katkıda bulunanlarından birinin, proposed kılavuzların ‘ılımlı, kısa görüşlü ve kasıtlı olarak belirsiz’ olduğunu ve Avrupa Komisyonu’nun belgesini ‘sahte etik’ savunucusu olarak nitelendirdiğini belirtmektedir.

Manipülatif Yapay Zeka Sistemleri

Yeni makale, Yapay Zeka Yasası’nın proposed ‘manipülatif sistemler’ kısıtlamalarının ‘zarar’ tanımının belirsiz ve hatta çelişkili olması nedeniyle engellendiğini öne sürmekte ve ‘[a] cinik biri, Komisyon’un yasakların retorik değerinden ziyade pratik etkiye daha fazla ilgi duyduğunu düşünebilir’ demektedir.

Taslak düzenlemeler, iki olası yasak uygulamayı ortaya koymaktadır:

(a)  bir yapay zeka sisteminin, bir kişinin bilinçaltı düzeyinde subliminal teknikler kullanarak, bir kişinin davranışını maddi olarak bozmak amacıyla piyasaya sürülmesi, hizmete konulması veya kullanılması, bu durumun o kişi veya başka bir kişiye fiziksel veya psikolojik zarar vermesine veya vermeye muhtemel olmasına neden olur;

(b)  bir yapay zeka sisteminin, belirli bir kişi grubunun yaş, fiziksel veya zihinsel engellilik gibi nedenlerle oluşan zayıflıklarını kullanarak, o gruba ait bir kişinin davranışını maddi olarak bozmak amacıyla piyasaya sürülmesi, hizmete konulması veya kullanılması, bu durumun o kişi veya başka bir kişiye fiziksel veya psikolojik zarar vermesine veya vermeye muhtemel olmasına neden olur;

Araştırmacılar, bu kısıtlamaların, bir yapay zeka sağlayıcının hizmet veya yazılımlarının kendi amaçlarına ulaşma başarısını ele almadığını, yalnızca son kullanıcının ‘zarar’ görüp görmediğini ele aldığını öne sürmektedir. Ayrıca, taslak tanımının ‘zarar’ kavramının yalnızca bireysel kullanıcılarla sınırlı olduğunu, son yıllarda ortaya çıkan yapay zeka temelli çeşitli tartışmaların ortaya koyduğu kolektif veya toplumsal zararları ele almadığını belirtmektedir.

Makale, ‘Gerçek hayatta, zarar, ciddiyet eşiğini aşan tek bir olay olmadan birikebilir ve bunu kanıtlamak zor olabilir’ diye gözlemlemektedir.

Avrupa Birliği’nde Tüketilmeyen Zararlı Yapay Zeka Sistemleri

Yapay Zeka Yasası, kamu alanlarında gerçek zamanlı biyometrik sistemlerin kullanımını yasaklamayı önermektedir. Bazı kamu şüphecileri, terörle mücadele, çocuk kaçakçılığı ve Avrupa tutuklama emri gibi istisnalar için yapılan düzenlemelere yöneltmiştir, ancak araştırmacılar, bu sistemlerin baskıcı rejimlere satılmasını engelleyen hiçbir şey olmadığını da belirtmektedir.

Makale, bu durumun zaten 2020’de Amnesty International tarafından yayınlanan bir rapor tarafından tarihi bir uygulama olduğunu gözlemlemektedir.

Ayrıca, ‘gerçek zamanlı’ biyometrik sistem tanımının keyfi olduğunu ve offline analitik sistemlerini, örneğin protesto olaylarının video kayıtlarının daha sonra işlenmesini hariç tuttuğunu belirtmektedir.

Daha da önemlisi, proposed düzenlemelerin, law enforcement ile ilgili olmayan biyometrik sistemleri sınırlamak için hiçbir mekanizma sunmadığını, bu sistemlerin GDPR’ye ertelendiğini ve GDPR’nin her tarama yapılan kişi için yüksek kaliteli, bireysel onay gerektirdiğini, bu durumun ise pratikte imkansız olduğunu belirtmektedir.

Yapay Zeka Yasası’nın bu bölümünün sözleri de araştırmacılar tarafından eleştirilmektedir. Taslak, yetkili makamların bu sistemlerin ‘bireysel kullanımı’ için ön izin gerektirmektedir, ancak ‘bireysel kullanım’ teriminin bu bağlamda ne anlama geldiğini açıklamaktadır. Makale, tartışmalı izinlerin tematik olabileceğini ve geniş organizasyonlar, amaçlar ve yerler ile ilgili olabileceğini belirtmektedir.

Ayrıca, taslak düzenlemelerin, verilen izinlerin sayısı ve türü için bir şeffaflık mekanizması öngörmemektedir, bu da kamu denetimini sorunlu hale getirmektedir.

‘Uyumlaştırılmış Standartlara’ Düzenleme Dış Kaynaklığı

Araştırma, Yapay Zeka Yasası’nın en önemli varlıklarının aslında taslak düzenlemelerde hiç bahsedilmediğini belirtmektedir: CEN (Avrupa Standardizasyon Komitesi) ve CENELEC (Avrupa Elektroteknik Standardizasyon Komitesi) – Avrupa Standardizasyon Organizasyonları (ESO)’nun üçünden ikisi – Avrupa Komisyonu, belirli yapay zeka hizmetleri ve dağıtımları için yönetmelik çerçevelerini oluşturmak üzere görevlendirebilecek iki organizasyondur.

Bu, effectively AI üreticilerinin, AI Yasası’nda belirtilen temel gereksinimlere uymak yerine,Competing rather than complementary regulationsın standartlarına uymalarına izin vermektedir. Bu, sağlayıcıların proposed düzenlemeleri daha esnek bir şekilde yorumlamalarına izin verecektir.

Araştırmacılar, standardizasyon organları arasındaki endüstriyel lobi faaliyetlerinin, ‘temel standartları’ önemli ölçüde yeniden tanımlayacağını ve ideal düzenlemelerin daha yüksek bir etik düzeyde ve yasama açıklığında başlamaları gerektiğini, bu sürecin kaçınılmaz bir sonucu olarak ortaya çıkacak Attrition’u hesaba katmak için önermektedir.

Duygu Tanıma Sistemlerinin Yanlışlığını Meşrulaştırma

Yapay Zeka Yasası, duygu tanıma ve kategorizasyon sistemlerinin kullanımına karşı hükümler içermektedir – bu sistemler, bir kişiyi tanımlamak zorunda olmadıkları halde, bir kişinin neler hissettiğini anlamaya veya cinsiyet, etnik köken, çeşitli diğer ekonomik ve sosyal işaretçiler açısından kategorize etmeyi iddia eden çerçevelerdir.

Araştırmacılar, bu hükmün anlamsız olduğunu, çünkü GDPR’nin zaten bu sistemlerin sağlayıcılarının, kullanıcıların bu sistemlerin kullanımıyla ilgili net bilgi vermesini ve kullanıcıların opt-out olmasına izin vermesini gerektirdiğini belirtmektedir.

Daha da önemlisi, makale, bu hükmün, çürütülmüş bir teknolojiyi meşrulaştırdığını ve FACS tarzı duygu tanıma sistemlerini, frühen endüstriyel çağından sosyal kategorizasyon için gần-şamanistik yaklaşımların utandırıcı geçmişine benzer bir şekilde karakterize etmektedir.

‘Duygu tanımlayanlar, basitleştirilmiş, şüpheli taksonomileri kullanır; kültürler ve bağlamlar arasında evrenselliği yanlış varsayar ve ‘fiziksel yapılarından karakter özelliklerini analiz etmeye’ dönüş riski taşır. Yasaların duygu tanıma ve biyometrik kategorizasyon ile ilgili hükümleri, riskleri azaltmaya yetmeyecek gibi görünüyor.’

Çok Az Bir Öneri

Araştırmacılar, ayrıca Yapay Zeka Yasası’nın deepfake’ler, AI sistemlerinin karbon emisyonlarının denetimi, diğer çerçevelerle düzenleyici denetimlerin tekrarlanması ve yargılama için yasal varlıkların tanımlanması konularında eksikliklerine dikkat çekmektedir.

Yasama organlarına ve sivil aktivistlere, tespit edilen sorunları gidermek için harekete geçmelerini önerirler ve ayrıca, proposed düzenlemelerin geniş bir eleştirisini sunmalarına rağmen, birçok başka endişe alanını da ele almadıklarını, yer eksikliği nedeniyle belirtmektedirler.

Bununla birlikte, makale, Yasaların, AI sistemlerinin yatay düzenlenmesinin bir sistemini tanıtmaya yönelik öncü girişimini alkışlamakta, ‘anlamlı unsurlar’ olarak nitelendirdiği, risk değerlendirme düzeyleri hiyerarşisi oluşturma, yasaklar getirme taahhüdü ve Avrupa meşruiyeti kazanmak için sistem sağlayıcılarının katkıda bulunması gereken bir kamu veritabanı önerisi gibi unsurları vurgulamaktadır, ancak bu son gereksinimin muhtemel yasal çıkmazları da not etmektedir.