AI Tehlikeleri ve Robust AI Düzenlemesinin Aciliyeti Hakkında Teknoloji Liderleri

AI büyümesi ve gelişmeleri son birkaç yılda üssel olarak artmıştır. Statista raporlarına göre, 2024 yılına kadar küresel AI pazarı yaklaşık 3000 milyar dolarlık bir gelire ulaşacak, bu da 2015 yılında 126 milyar doların üzerinde bir artış anlamına geliyor. Ancak teknoloji liderleri şimdi bize AI’nin çeşitli riskleri hakkında uyarıyor.

Özellikle, recent generative AI modelleri gibi ChatGPT, sağlık, eğitim, finans gibi çeşitli veri-duyarlı sektörlerde yeni yetenekler getirdi. Bu AI-destekli gelişmeler, kötü niyetli aktörlerin ortaya çıkarabileceği birçok AI eksikliği nedeniyle savunmasızdır.

AI uzmanlarının recent gelişmeler hakkında neler söylediğini ve AI’nin potansiyel risklerini tartışalım. Ayrıca bu risklerin nasıl yönetileceği hakkında kısaca bahsedeceğiz.

Teknoloji Liderleri ve AI Risklerine İlişkin Endişeleri

Geoffrey Hinton

Geoffrey Hinton – AI teknoloji lideri (ve bu alanın babası) recently Google’dan ayrıldı ve AI’deki hızlı gelişme ve potansiyel tehlikeleri hakkında endişelerini dile getirdi. Hinton, AI sohbet botlarının insan zekasını aşması durumunda “oldukça korkutucu” olabileceğine inanıyor.

Hinton diyor ki:

“Şu anda gördüğümüz, GPT-4’ün bir kişiye göre genel bilgi açısından çok daha fazla bilgiye sahip olması ve bunu uzun bir süre boyunca yapması. Mantık açısından o kadar iyi değil, ancak basit mantık already yapıyor. Ve ilerleme hızına göre, şeyler çok nhanh bir şekilde iyileşecek. Bu nedenle bundan endişe duymamız gerekiyor.”

Ayrıca, “kötü aktörlerin” AI’yi “kötü şeyler” için kullanabileceğine, örneğin robotlara alt hedefler verilmesi için inanmaktadır. Endişelerine rağmen, Hinton AI’nin kısa vadeli faydalar getirebileceğine, ancak aynı zamanda AI güvenliği ve kontrolü için ağır yatırım yapılması gerektiğine inanıyor.

Elon Musk

Elon Musk’ın AI’ye katılımı, 2010 yılında DeepMind‘e yaptığı erken yatırımla başladı, ardından OpenAI‘yi kurdu ve AI’yi Tesla’nın otonom araçlarına entegre etti.

AI’ye karşı coşkulu olmasına rağmen, sık sık AI riskleri hakkında endişelerini dile getiriyor. Musk, güçlü AI sistemlerinin nükleer silahlardan daha tehlikeli olabileceğine inanıyor. Nisan 2023’te Fox News‘te yaptığı bir röportajda dedi ki:

“AI, yanlış yönetilen uçak tasarımı veya üretim bakımından veya kötü araba üretiminden daha tehlikeli. Bu, küçük bir olasılık olarak görülse de, küçük olmayan bir olasılık ve medeniyetin yok olma potansiyeline sahip.”

Ayrıca, AI’nin potansiyel risklerinden korunmak için hükümet düzenlemelerini destekliyor, ancak “bu çok eğlenceli değil”.

Dev Giant AI Deneylerini Durdurun: Binlerce AI Uzmanı Tarafından Desteklenen Açık Mektup

Future of Life Institute, 22 Mart 2023 tarihinde bir açık mektup yayınladı. Mektup, GPT-4‘den daha gelişmiş AI sistemlerinin geliştirilmesinin altı ay süreyle askıya alınmasını talep ediyor. Yazarlar, AI sistemlerinin geliştirilme hızının ciddi sosyo-ekonomik zorluklar yaratabileceğine dikkat çekiyorlar.

Ayrıca, mektup, AI geliştiricilerinin AI yönetim sistemlerini belgelemek için politika yapıcılarla birlikte çalışması gerektiğini belirtiyor. Haziran 2023 itibarıyla, mektup 31.000’den fazla AI geliştiricisi, uzmanı ve teknoloji lideri tarafından imzalandı. Önemli imzalayanlar arasında Elon Musk, Steve Wozniak (Apple’ın kurucu ortağı), Emad Mostaque (Stability AI CEO’su), Yoshua Bengio (Turing Ödülü sahibi) ve birçok diğerleri yer alıyor.

AI Geliştirilmesini Durdurma Karşı Argümanları

İki önde gelen AI lideri, Andrew Ng ve Yann LeCun, gelişmiş AI sistemlerinin geliştirilmesinin altı ay süreyle askıya alınmasına karşı çıktı ve bu duraklamanın kötü bir fikir olduğunu düşündü.

Ng, AI’nin bazı riskleri olduğunu, örneğin önyargı, güç konsolidasyonu vb. Ancak eğitim, sağlık, yanıt veren koçluk gibi alanlarda AI tarafından yaratılan değer büyük.

Yann LeCun, araştırmaların ve geliştirmelerin durdurulmaması gerektiğini, ancak AI ürünlerinin son kullanıcıya ulaştığında düzenlenebileceğini söylüyor.

AI’nin Potansiyel Tehlikeleri ve Acil Riskleri Nelerdir?

1. İşyeri Değişikliği

AI uzmanları, zeki AI sistemlerinin bilişsel ve yaratıcı görevleri yerine getirebileceğine inanıyor. Yatırım bankası Goldman Sachs, yaklaşık 300 milyon işin generative AI tarafından otomatikleştirileceğini tahmin ediyor.

Bu nedenle, AI’nin ekonomide ciddi bir düşüşe neden olmaması için geliştirilmesine ilişkin düzenlemeler yapılmalıdır. Ayrıca, bu zorluğun karşılanması için çalışanların becerilerini geliştirmeleri ve yeniden beceri kazanmaları için eğitim programları olmalıdır.

2. Önyargılı AI Sistemleri

İnsanların cinsiyet, ırk veya renk hakkında sahip olduğu önyargılar, AI sistemleri için kullanılan verilere yanlışlıkla nüfuz edebiliyor ve bu da AI sistemlerinin önyargılı olmasına neden olabiliyor.

Örneğin, iş başvuruları bağlamında, önyargılı bir AI sistemi, belirli etnik kökenlerden kişilerin özgeçmişlerini reddederek iş piyasasında ayrımcılık yaratabilir. Polislik bağlamında, önyargılı öngörülü polislik belirli mahalleleri veya demografik grupları orantısız bir şekilde hedef alabilir.

Bu nedenle, AI risklerini özellikle önyargıları ele alan kapsamlı bir veri stratejisi oluşturmak çok önemlidir. AI sistemleri sık sık değerlendirilmeli ve denetlenmelidir ki adil kalabilsinler.

3. Güvenlik-Kritik AI Uygulamaları

Otonom araçlar, tıbbi teşhis ve tedavi, havacılık sistemleri, nükleer enerji santrali kontrolü vb. güvenlik-kritik AI uygulamaları örnekleridir. Bu AI sistemleri dikkatli bir şekilde geliştirilmelidir çünkü küçük hatalar insan hayatı veya çevre için ciddi sonuçlar doğurabilir.

Örneğin, Maneuvering Characteristics Augmentation System (MCAS) adlı AI yazılımının arızalanması, Ekim 2018 ve Mart 2019’da iki Boeing 737 MAX uçağının çakılmasına kısmen atfediliyor. Maalesef, bu iki kazada 346 kişi öldü.

AI Sistemlerinin Risklerini Nasıl Aşabiliriz? – Sorumlu AI Geliştirme ve Düzenleyici Uyum

Sorumlu AI (RAI) anlamına gelen adil, hesap verebilir, şeffaf ve güvenli AI sistemlerinin geliştirilmesi ve dağıtılması, gizliliği sağlar ve yasal düzenlemelere ve toplumsal normlara uyumu sağlar. RAI’yi uygulamak, AI sistemlerinin geniş ve hızlı gelişimi nedeniyle karmaşık olabilir.

Ancak büyük teknoloji şirketleri RAI çerçeveleri geliştirdiler, örneğin:

1. Microsoft’un Sorumlu AI’si
2. Google’ın AI İlkeleri
3. IBM’nin Güvenilir AI’si

Dünya çapındaki AI laboratuvarları bu ilkelerden ilham alabilir veya kendi sorumlu AI çerçevelerini geliştirebilirler, böylece güvenilir AI sistemleri oluşturabilirler.

AI Düzenleyici Uyum

Veri, AI sistemlerinin önemli bir bileşenidir, bu nedenle AI tabanlı organizasyonlar ve laboratuvarlar veri güvenliği, gizliliği ve güvenliğini sağlamak için aşağıdaki düzenlemelere uymalıdır.

1. GDPR (Genel Veri Koruma Yönetmeliği) – AB tarafından oluşturulan bir veri koruma çerçevesi.
2. CCPA (California Tüketici Gizliliği Kanunu) – bir California eyalet yasası, tüketici hakları ve koruması için.
3. HIPAA (Sağlık Sigortası Taşınabilirlik ve Hesap Verebilirlik Yasası) – hastaların tıbbi verilerini korumak için ABD yasası.
4. AB AI Yasası ve Güvenilir AI için Etik Kılavuzu – Avrupa Komisyonu AI düzenlemesi.

Farklı ülkeler tarafından çeşitli bölgesel ve yerel yasalar çıkarıldı, vatandaşlarını korumak için. Veri düzenleyici uyumunu sağlamayan organizasyonlar, ciddi cezalara maruz kalabilir. Örneğin, GDPR, ciddi ihlaller için 20 milyon Euro veya yıllık karın %4’ü kadar bir ceza belirledi, örneğin yasadışı veri işleme, kanıtlanmamış veri onayı, veri konusunun haklarının ihlali veya uluslararası bir kuruluşa korumalı olmayan veri aktarımı.

AI Geliştirme ve Düzenlemeleri – Günümüz ve Gelecek

Her geçen ay, AI gelişmeleri rekor seviyelere ulaşıyor. Ancak AI düzenlemeleri ve yönetim çerçeveleri geride kalıyor. Daha güçlü ve spesifik olmaları gerekiyor.

Teknoloji liderleri ve AI geliştiricileri, AI’nin yeterli düzenleme olmadan riskleri hakkında uyarıda bulunuyorlar. AI’de araştırma ve geliştirme, birçok sektörde daha fazla değer katabilir, ancak dikkatli bir düzenleme şimdi zorunludur.

Daha fazla AI ile ilgili içerik için, unite.ai‘yi ziyaret edin.