Avrupa Birliği’nin Taslak Yapay Zeka Yasasının Eksiklikleri

Avrupa Birliği’nin taslak ‘Yapay Zeka Yasası’na yönelik yeni bir hukuki eleştiri, proposed düzenlemelere geniş bir eleştiri yelpazesi getiriyor Nisan ayında yayınlanan, veel của document’in 1980’lerin tüketici düzenlemelerinden ‘dikişle bir araya getirildiğini’, aslında Avrupa’da bir düzenleme ortamı yerine düzenlenmemiş bir Yapay Zeka ortamını teşvik ettiğini ve – diğer birçok eleştiri arasında – önerilen düzenlemelerin ‘az anlam ve etki’ olan bir gelecekteki düzenleyici Yapay Zeka çerçevesi çizdiğini belirtiyor.

Avrupa Birliği’nin Taslak Yapay Zeka Yasasını Çözme adlı ön baskı, UCL Londra ve Nijmegen’deki Radboud Üniversitesi’nden araştırmacılar arasında bir işbirliğidir.

Makale, proposed uygulama (niyet değil) hakkında olumsuz görüşlerin artan bir gövdesine ekleniyor, bunlar arasında Nisan ayında taslak düzenlemenin kendi katkıda bulunanlarından birinin iddiası da var, proposed kılavuzların ‘ılık, kısa görüşlü ve kasıtlı olarak belirsiz’ olduğunu ve Avrupa Komisyonu belgesinin ‘sahte etik’ bir savunucusu olduğunu belirtiyor.

Manipülatif Yapay Zeka Sistemleri

Yeni makale, Yapay Zeka Yasası’nın proposed ‘manipülatif sistemler’ kısıtlamalarının, ‘zarar’ın belirsiz ve hatta çelişkili bir tanımı tarafından engellendiğini iddia ediyor, ‘[a] bir şaka olabilir ki Komisyon, yasakların retorik değerinden çok pratik etkisine ilgi duyuyor’ diyor.

Taslak düzenlemeler iki olası yasak uygulama belirtiyor:

(a)  bir Yapay Zeka sisteminin, bir kişinin bilinçdışı düzeyde subliminal teknikler kullanarak, bir kişiyi fiziksel veya psikolojik zarar vermeye veya vermeye muhtemel bir şekilde davranmaya zorlayacak şekilde yerleştirilmesi, hizmete alınması veya kullanılması;

(b)  bir Yapay Zeka sisteminin, bir kişinin yaş, fiziksel veya zihinsel engellilik nedeniyle belirli bir kişi grubunun zayıf noktalarını kullanarak, o gruba ait bir kişinin davranışını maddi olarak bozacak şekilde yerleştirilmesi, hizmete alınması veya kullanılması;

Araştırmacılar, bu kısıtlamaların, bir Yapay Zeka sağlayıcının hizmetlerinin veya yazılımlarının kendi amaçlarına ulaşmada başarılı olup olmadığını ele almadığını, sadece son kullanıcının ‘zarar’ görüp görmediğini belirtiyorlar. Ayrıca, taslakların zarar tanımının yalnızca bireysel kullanıcılarla sınırlı olduğunu, recent years’da Yapay Zeka temelli birçok tartışmanın makul bir şekilde çıkarılabileceği kolektif veya toplumsal zarara değinmediğini ekliyorlar.

Makale, ‘Gerçek hayatta, tek bir olayın ciddiyet eşiğini aşmaması nedeniyle zarar birikebilir ve kanıtlamak zor olabilir’ diyor.

Zararlı Yapay Zeka Sistemleri İzin Verildi, Ancak AB Tüketimi İçin Değil

Yapay Zeka Yasası, kamu alanlarında kolluk kuvvetleri tarafından kullanılan ‘gerçek zamanlı’ biyometrik sistemlerin yasaklanmasını öneriyor. Bazı kamu şüpheciliği, proposed istisnaların terörle mücadele, çocuk kaçakçılığı ve bir Avrupa tutuklama emri takip edilmesi için yapıldığını belirtiyor, ancak araştırmacılar, hiçbir şeyin, tedarikçilerin, bu tür biyometrik sistemleri baskıcı rejimlere satmasını engellemeyeceğini belirtiyorlar.

Makale, bu durumun zaten 2020’de Amnesty International tarafından yapılan bir raporla histórik bir uygulama olduğunu belirtiyor.

Ayrıca, Yapay Zeka Yasası’nın ‘gerçek zamanlı’ biyometrik sistem tanımının keyfi olduğunu ve off-line analitik sistemleri, örneğin protesto olaylarının video kayıtlarının daha sonra işlenmesini hariç tuttuğunu belirtiyor.

Ek olarak, proposed düzenlemelerin, kolluk kuvvetleriyle ilgili olmayan biyometrik sistemleri kısıtlamak için hiçbir mekanizma sunmadığını, bunun yerine bunları tembel bir şekilde GDPR’ye ertelediğini ve GDPR’nin itself’in her tarama yapılan kişi için yüksek kaliteli, bireysel onay gerektirdiğini, ancak bunun pratikte imkansız olduğunu belirtiyor.

Bu bölümdeki Yapay Zeka Yasası’nın sözleri de araştırmacılar tarafından eleştiriliyor. Taslak, yetkili makamların ‘bireysel kullanımı’ için biyometrik sistemlerin dağıtımı için ön izin gerektiriyor, ancak ‘bireysel kullanım’ın bu bağlamda ne anlama geldiğini açıklamıyor. Makale, tartışmalı izinlerin tematik olabileceğini, geniş organizasyonlara, amaçlara ve yerlere ilişkin olabileceğini belirtiyor.

Ayrıca, taslak düzenlemeler, verilen izinlerin sayısı ve türüne ilişkin bir şeffaflık mekanizması belirlemiyor, bu da kamu denetimini sorunlu hale getiriyor.

Düzenlemeleri ‘Uyumlu Standartlara’ Dış Kaynak Kullanma

Araştırma, Yapay Zeka Yasası’nın en önemli varlıklarının aslında taslak düzenlemelerde hiç bahsedilmediğini belirtiyor: CEN (Avrupa Standardizasyon Komitesi) ve CENELEC (Avrupa Elektroteknik Standardizasyon Komitesi) – Avrupa Standardizasyon Organizasyonları (ESO)’nun üçünden ikisi – Avrupa Komisyonu’nun, belirli türdeki Yapay Zeka hizmetleri ve dağıtımları için yönetmelik çerçevesi olacak harmonize standartlar oluşturmak için görevlendirebileceği.

Bu, aslında Yapay Zeka üreticilerinin, proposed düzenlemelere uymak yerine, rekabetçi değil tamamlayıcı düzenlemelerin standartlarına uymalarına olanak tanır. Bu, proposed düzenlemelerin 2024-5’te yürürlüğe girdiğinde daha gevşek bir şekilde yorumlanmasına izin verir.

Makaledeki araştırmacılar, ayrıca, standardizasyon organları arasında endüstriyel lobi faaliyetlerinin proposed ‘temel standartları’ önemli ölçüde yeniden tanımlayabileceğini ve ‘ideal’ düzenlemelerin, bu kaçınılmaz aşınma sürecini hesaba katmak için daha yüksek bir etik düzeyde ve yasal açıklıkta başlamaları gerektiğini düşünüyorlar.

Duygu Tanıma Sistemlerinin Yanılgısını Meşrulaştırma

Yapay Zeka Yasası, duygu tanıma ve kategorizasyon sistemlerinin dağıtımı karşı bir hüküm içeriyor – bu sistemler, bir kişiyi kesinlikle tanımlamayabilir, ancak bir kişiyi hissettiklerini anlama veya cinsiyet, etnik köken, çeşitli diğer ekonomik ve sosyal işaretçiler açısından kategorize etme iddiasında bulunabilir.

Araştırmacılar, bu hükmün anlamsız olduğunu, çünkü GDPR’nin zaten bu tür sistemlerin sağlayıcılarının kullanıcılarla açık bilgi paylaşma zorunluluğu getirdiğini ve kullanıcıların opt-out edebileceğini (bu, bir online hizmeti kullanmamak veya böyle bir sistemlerin bulunduğu bir alana girmemek anlamına gelebilir) belirtiyorlar.

Daha da önemlisi, makale, bu hükmün, çürütülmüş bir teknolojiyi meşrulaştırdığını ve FACS-tarzlı duygu tanıma sistemlerini, phrenology ve diğer near-Shamanistic yaklaşımların utandırıcı geçmişine benzer bir şekilde sosyal kategorizasyon için eleştiriyor.

‘Duygu tanımlayanlar, oversimplified, şüpheli taksonomileri kullanıyor; evrensellik ve bağlamlar arasında kültürel ve bağlamsal farklılıkları yanlış varsayıyor ve ‘phrenological geçmişe’ dönmeye risk ediyor, yani karakter özelliklerini yüz yapılarından analiz ediyor. Yasaların duygu tanıma ve biyometrik kategorizasyonuna ilişkin hükümleri, riskleri hafifletmeye yeterli görünmüyor.’

Çok Az Bir Öneri

Araştırmacılar, ayrıca, Yapay Zeka Yasası’nın deepfake’ler, Yapay Zeka sistemlerinin karbon emisyonlarının denetimi, düzenleyici denetimlerin diğer çerçevelerle tekrarlanması ve cezai olarak takip edilebilir yasal varlıkların yetersiz tanımı konularındaki eksikliklerini ele alıyor.

Yasama organlarını ve sivil aktivistleri, tespit edilen sorunları gidermek için harekete geçmeye davet ediyorlar ve ayrıca, proposed düzenlemelerin geniş bir eleştirisini yapmak için çok fazla alan gerektiğini, ancak birçok başka endişe alanını da ele almadıklarını belirtiyorlar.

Bununla birlikte, makale, Yasaların, Yapay Zeka sistemlerinin yatay düzenlenmesine yönelik öncü bir girişimi sunması nedeniyle, ‘anlamlı unsurları’ olan, risk değerlendirmesi düzeyleri hiyerarşisi oluşturması, yasaklar getirmeye yönelik taahhütte bulunması ve Avrupa legitimacy kazanmak için sağlayıcıların katkıda bulunması gereken bir kamu veritabanı önermesi nedeniyle Yasayı takdir ediyor, ancak bu son gerekliliğin muhtemel yasal çıkmazları da beraberinde getireceğini belirtiyor.