Düşünce Liderleri

Evet, AB Yapay Zekâ Yasası Ajan Tabanlı Yapay Zekâyı Kapsıyor — İşte Nasıl

Dr. Ley Muller Gyda Grodås Christiansen
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarAjan tabanlı yapay zeka, bir yapay zeka sistemi tanımını karşıladığı için halihazırda…
Daha fazla göster
  • Ajan tabanlı yapay zeka, bir yapay zeka sistemi tanımını karşıladığı için halihazırda AB Yapay Zeka Yasası kapsamına girmektedir.
  • Yapay Zeka Yasası, belirli teknolojileri adlandırmak yerine teknolojinin ne yaptığını ve yarattığı riskleri düzenler.
  • Yapay Zeka Yasası'na karşı lobi yapan teknoloji devleri, düzenleyici ele geçirme anlamına gelen öz düzenlemeyi savunuyor.

Ajan tabanlı yapay zekâ ile yapay zekâ ajanlarının bir tür düzenleme boşluğunda kaldığı, AB Yapay Zekâ Yasası’nın bunları düzenlemeye uygun olmadığı yönünde güçlü bir söylem var. Bu iddiayı saygın Norveç haber kuruluşlarında (Morgenbladet ve Dagensnæringsliv) okuduk; önde gelen akademisyenler de (University of Oslo) aynı görüşü dile getirdi. Bu iddialarda iki temel kusur görüyoruz… ve bunların gerçeklere değil, korkulara dayandığını düşünüyoruz.

Birincisi, ajan tabanlı yapay zekâ AB Yapay Zekâ Yasası kapsamında düzenleniyor.

İkincisi, bu tür iddialar mevcut düzenlemeleri zayıflatıyor. Yapay zekâ şirketlerinin kendi sistemleriyle ilişkili riskleri yönetmek için daha donanımlı olduğu düşüncesini pekiştiriyorlar. Bu, düzenleyici kurumların sektörün etkisi altına girmesine yol açan yaygın bir argüman.

Standards Norway’ın ulusal yapay zekâ komitesine atanmış üyeler olarak AB Yapay Zekâ Yasası üzerinde yakından çalışıyoruz. Ayrıca, yüksek riskli yapay zekâ sistemleri sağlayıcılarına yönelik uyumlaştırılmış standartları geliştiren Avrupa komitelerinde de görev alıyoruz; bu standartlar şirketlerin AB Yapay Zekâ Yasası’nın yasal gerekliliklerini karşılamasına yardımcı oluyor.

Ajan Tabanlı Yapay Zekâ, AB Yapay Zekâ Yasası Kapsamında Birkaç Açıdan Düzenleniyor

Avrupa Komisyonu, “ajanlar” ve “ajan tabanlı yapay zekâ” hakkında sade dille yazılmış, anlaşılması kolay birkaç sık sorulan sorular metni yayımladı ve bunların düzenlemenin kapsamına girdiğini açıkladı. Bunun nedeni basit: Daha geniş yapay zekâ sistemi tanımına uyuyorlar (Yapay zekâ ajanları Yapay Zekâ Yasası kapsamında nasıl ele alınıyor? | Yapay Zekâ Yasası Hizmet Masası). İşte birkaç örnek daha:

  • Ajan tabanlı yapay zekâ çoğunlukla genel amaçlı yapay zekâ modelleri olarak düzenlenen büyük dil modelleri üzerine kuruluyor.
  • Ajan tabanlı bir yapay zekâ sistemi insanlarla etkileşime girdiğinde, düzenlemenin şeffaflık gereklilikleri de devreye giriyor.
  • Bir yapay zekâ modeli sistemik risk taşıdığı şeklinde sınıflandırılırsa sağlayıcı için ek gereklilikler geçerli olur. Bu gereklilikler, diğerlerinin yanı sıra, modelin yeteneklerinin değerlendirilmesini de kapsar; buna modelin otonom ve ajan tabanlı özellikleri de dahildir.

Yapay Zekâ Yasası’nda “ajan” sözcüğü geçmiyor; bunun nedeni, yasanın belirli teknoloji türlerini düzenlememesi. Bunun yerine, teknolojinin ne yapmak üzere tasarlandığını ve bu işlevlerle ilişkili riskleri düzenliyor.

Yapay Zekâ Yasası Temel Haklarımızı Korumayı Amaçlıyor

Daha fazla düzenleme isteyenlerin Yapay Zekâ Yasası’na yönelik eleştirilerinin önemli bir bölümü, riskleri tamamen ortadan kaldırmanın yapısal olarak imkânsız olmasından kaynaklanıyor. Ancak uluslararası bir düzenleyici çerçevenin gelecekte ortaya çıkabilecek her riski öngörmesi zaten mümkün olmazdı.

Bunun yerine Yapay Zekâ Yasası, sağlık, güvenlik ve temel hakları etkileyebilecek yapay zekâ sistemlerinin yarattığı risklere odaklanıyor. Bu nokta, ilk maddenin ilk cümlesinde açıkça belirtiliyor.

İlk cümlede vurgulamadığımız bir nokta da çok önemli: Yapay Zekâ Yasası piyasa odaklıdır. Yapay zekâ kullanımını teşvik etmeyi ve inovasyonu desteklemeyi amaçlar. Başka bir deyişle, Yapay Zekâ Yasası yapay zekâdan yanadır. Bu çerçevede, belirli uygulamalar ve alanlar düzenlemeye tabidir.

Bazı Alanlar Önceden Yüksek Riskli Olarak Sınıflandırılıyor

Buna, şu alanlarda kullanılan yapay zekâ sistemleri örnek verilebilir:

  • işe alım
  • temel hizmetlerin tahsisi
  • tıbbi cihazlar
  • güvenliğin en üst düzeyde önem taşıdığı kritik altyapılara entegre sistemler.

Haklarımızı etkileyebilecek yapay zekâ sistemlerinin (ajan tabanlı olsun ya da olmasın) sağlayıcıları, kullanıcıların yapay zekâ sistemini nasıl amacı dışında kullanabileceğini değerlendirmek de dahil olmak üzere kapsamlı risk yönetimi sistemleri oluşturmakla yükümlüdür.

Düzenleyici Kurumların Ele Geçirilmesi: Sağlayıcılar Öz Düzenleme Önerdiğinde

Anthropic, OpenAI ve Meta’yı, ayrıca Norveç’teki tartışmalarda öne çıkan bazı sesleri dinlersek, yapay zekânın ve ajan tabanlı yapay zekânın AB Yapay Zekâ Yasası için fazla karmaşık olduğu izlenimine kapılabiliriz. AB’nin düzenleyemeyeceği kadar gelişmiş. Şirketlerin kendileri dışında hiç kimsenin düzenleyemeyeceği kadar tehlikeli.

Dünyanın en güçlü teknoloji şirketleri, AB Yapay Zekâ Yasası’nın daha gevşek uygulanması için yoğun lobi faaliyetleri yürüttü; şimdi de düzenlemenin en güçlü sistemlerini yönetmekte yetersiz olduğunu öne sürüyorlar. Bu şirketlerin önerdiği çözüm, kendilerini “düzenlemek”. Böyle bir iddiaya temkinli yaklaşmalıyız.

Bu, klasik bir düzenleyici kurumların çıkar gruplarınca ele geçirilmesi mekanizmasıdır: Yasaların ve düzenlemelerin, denetlemek üzere tasarlandıkları kuruluşlar tarafından, kendi çıkarları doğrultusunda zaman içinde şekillendirildiği bir süreç.

Amerika Birleşik Devletleri bunun açık bir örneğini sunuyor (Süper Zekâ Çağını Başlatmak – The White House). Süper Zekâ Konusunda Beyaz Saray Mutabakatı, X, Meta, Anthropic, OpenAI ve Google yöneticileriyle yapılan ve bu şirketlerin kendi kendilerini düzenleme sözü verdiği “gönüllü bir anlaşma”. Belgede, gelecekteki varsayımsal bir noktada yasaların uygun olabileceği belirtiliyor: “Zaman içinde, bu adımları yasalara veya düzenlemelere dönüştürmek anlamlı olabilir.” Zaman içinde. Belki. Düzenlemeleri değerlendirmek makul olabilir.

Ancak şimdilik Amerikalıların, bu büyük teknoloji şirketlerinin kendilerini denetleyeceğine güvenmeleri bekleniyor.

ABD’den farklı olarak Avrupa’nın bağlayıcı bir yasası var: Yapay Zekâ Yasası.

Buna rağmen, bu yasaya duyulan güvenin aşınması da dâhil olmak üzere, düzenleyici kurumların çıkar gruplarının etkisi altına girmesi riski devam ediyor. Çünkü teknoloji devleri insanları Yapay Zekâ Yasası’nın yeterince iyi olmadığına ikna edebilirse, artık yasanın uygulanmasını desteklemeyeceğiz. Ajan tabanlı yapay zekânın, Yapay Zekâ Yasası’nın ele alamayacağı kadar gelişmiş, akıllı ya da tehlikeli olduğu yönündeki iddialar, düzenlemelere verdiğimiz desteği zayıflatıyor.

Düzenleyici kurumlar çıkar gruplarının etkisi altına girdikten sonra bu durumu tersine çevirmek zordur.

Bazı yapay zekâ sistemlerinin öngörülmesi zor sonuçlara yol açabileceği yönündeki kaygıyı paylaşıyoruz. Tam da bu nedenle, Yapay Zekâ Yasası’nın da gerektirdiği risk yönetimi prosedürlerine ihtiyacımız var. (Dr. Muller, risk yönetimine ilişkin uyumlaştırılmış standardın geliştirilmesini neredeyse tamamlamış olan komitede çalışıyor; 18228.)

AB Yapay Zekâ Yasası kusursuz değil ve muhtemelen daha da geliştirilmesi gerekecek. Ancak ajan tabanlı yapay zekâyı AB Yapay Zekâ Yasası’nın kapsamı dışında kalan bir alan olarak göstermek, güvenliği değil, belirsizliği artırıyor.

Dr. Ley Muller, etik yapay zekâ yönetişimi konusunda uzmanlaşmıştır. Yapay zekâ standardizasyon komitelerinde görev almakta ve ayrıca bir yapay zekâ yönetişimi danışmanlık şirketi olan Values-driven AI'ı yönetmektedir. Zamanının yarısında Avrupalı yapay zekâ sağlayıcılarının AI Act kapsamındaki gereklilikleri yerine getirmesine yardımcı olurken, diğer yarısında büyük kamu kuruluşlarının gölge yapay zekâ kullanımını yönetmelerine ve yapay zekâ stratejileri konusunda paydaşlar arasında daha geniş bir uzlaşı oluşturmalarına yardımcı olmaktadır.

Gyda Grodås Christiansen, dijital sağlık, sağlık bilişimi ve yapay zekâ yönetişimi alanlarında çalışan bir Kıdemli Danışmandır. CEN/CENELEC'in 21. Ortak Teknik Komitesi ve Standard Norway aracılığıyla uluslararası standartlaştırma çalışmalarına katkıda bulunur. Çalışmaları; birlikte çalışabilirlik, sağlık verileri ve yapay zekânın sağlık hizmetlerinde sorumlu biçimde benimsenmesine odaklanır.