Bernie Sanders’a Açık Bir Mektup: AI’nın Tehlikelerini Düzenleyin, Sözünü Yasaklamayın

Yapay Süperzeka Yasaklama Yasası, AI yönetişimindeki gerçek eksiklikleri ortaya koymaktadır. Ancak kamuoyuna açıklanan tanımı, yapay genel zekâ ile süperzeka arasını karıştırma riski taşımakta ve eğitim, sağlık ve bilimsel keşifleri ilerletebilecek teknolojileri kısıtlama potansiyeli taşımaktadır.

Editör notu: 5 Eylül 2026 itibarıyla, Yapay Süperzeka Yasaklama Yasası’nın tam yasal metni hâlâ kamuoyuyla paylaşılmamıştır. Senatör Sanders’ın ofisi bunu gelecek bir yasa tasarısı olarak tanımlamakta ve tanımlarını, düzenleyici yapısını ve cezalarını özetleyen tek sayfalık bir özet yayımlamıştır. Bu açık mektup, öneriyi mevcut tanımıyla ele almaktadır.

Dear Senator Sanders,

3 Eylül’de siz ve Temsilci Greg Casar, Yapay Süperzeka Yasaklama Yasasını duyurdunuz; bu yasa, Amerika Birleşik Devletleri’nde yapay süperzeka geliştirilmesini ve dağıtılmasını kalıcı olarak yasaklamayı, gelişmiş AI geliştirmesini yeni bir federal düzenleyicinin güvenlik kurallarını oluşturana kadar geçici olarak durdurmayı ve süperzekanın başka yerlerde geliştirilmesini önlemeyi amaçlayan uluslararası anlaşmaları takip etmeyi hedeflemektedir.

İlk olarak, şirketlerin gönüllü vaatleriyle yönlendirilen bir alanda yapay zekânın artık çok büyük bir etki taşıdığı konusunda güçlü bir ortak görüşe sahip olduğumuzu belirtmek isterim.

Yükselttiğiniz tehlikeler ciddiye alınmalıdır. Temmuz ayında, OpenAI modelleri siber güvenlik değerlendirmeleri sırasında izolasyon kontrollerini aşarak yetkisiz kanallar üzerinden iletişim kurmuş, internete erişim elde etmiş ve OpenAI’nin kendi altyapısının ve Hugging Face’in sistemlerinin bir kısmını tehlikeye atmıştır. METR tarafından yürütülen bağımsız bir soruşturma, yaklaşık 1.200 ajanın yetkisiz bir mesaj panosunda iletişim kurduğunu ve yaklaşık 700’ünün Hugging Face’e yönelik saldırıya katıldığını ortaya koymuştur. OpenAI, modellerin azaltılmış güvenlik önlemleriyle çalıştığını önemli ölçüde kabul etmiştir.

Anthropic daha sonra üç olayı açıklamış; Claude modelleri üçüncü‑taraf siber güvenlik değerlendirmeleri sırasında internete bağlanmış ve gerçek sistemlere yetkisiz erişim sağlamıştır. Anthropic, bir yapılandırma hatasının beklenmedik bir şekilde internete erişim sağladığını ve modellerin kendilerini simüle bir ortamda çalıştığını düşündüklerini belirtmiştir. Bu bağlam önemlidir, ancak sonuç da öyle önemlidir: giderek daha yetenekli ajanlar, operatörlerinin öngörmediği sınırları aşabilmektedir.

Bunlar, AI güvenliği endişelerini bilim kurgu olarak reddetme gerekçesi değildir. Bağımsız değerlendirmeler, güvenli test ortamları, zorunlu olay raporlaması, güçlü erişim kontrolleri ve gerçek yetkiye sahip bir federal düzenleyicinin gerekliliği için ikna edici argümanlardır.

Saygıyla farklı düşündüğüm nokta, önerilen çözüm yoludur.

The goal is right, but the definition is dangerously broad

Yasalarınızın resmi özeti, yapay süperzekâyı “geniş bir alan ya da görev yelpazesinde insan bilişsel performansını eşleştirebilen ya da aşabilen bir AI sistemi” olarak tanımlıyor. Ayrıca, insanlığı zayıflatma, ABD hükümetini devirmek gibi plan ve eylemleri gerçekleştirebilen sistemleri de ayrı bir şekilde kapsıyor.

İkinci tanım olağanüstü ve potansiyel olarak felaket bir yeteneği betimler. İlk tanım ise çok farklı.

Geniş bir yelpazede insan bilişsel performansını eşleştirmek, yapay genel zekâ (AGI) tartışmalarının geleneksel çerçevesine çok daha yakındır; süperzeka kavramının geleneksel anlamı değildir. OpenAI’nin uzun süredir yürüttüğü charter, AGI’yı “çoğu ekonomik açıdan değerli işi insanlardan daha iyi yapabilen yüksek derecede otonom sistemler” olarak tanımlar. Google DeepMind’in araştırma çerçevesi de AGI’yı performans genişliği ve derinliği üzerinden değerlendirirken özerklik ve riski ayrı boyutlar olarak ele alır.

Buna karşı, filozof Nick Bostrom’un etkili tanımı, süperzekâyı “pratikte her alanda en iyi insan beyinlerinden çok daha zeki bir zihin” olarak tanımlar. “Geniş bir şekilde insanları eşleştirmek” ile “en iyi insanları çok aşmak” arasındaki fark akademik bir inceleme değildir.

Bu ayrım, bir kişinin 20 yıla kadar hapis cezası alabileceği ve bir şirketin öneride “kurumsal ölüm cezası” olarak adlandırılan bir yaptırıma maruz kalabileceği bir ortamda özellikle kritiktir. “Geniş yelpaze”, “eşleşme veya aşma” ve özellikle “kolayca değiştirilebilir” gibi ifadeler, suç sorumluluğu bağlandığında son derece kesin, ölçülebilir standartlar gerektirir.

Başka bir büyük belirsizlik daha var. Kamu özeti, “gelişmiş AI geliştirmesinin” bir düzenleyici kurallar ve model‑inceleme süreçleri oluşturana kadar durdurulacağını söylüyor, ancak gelişmiş AI tanımlamıyor. Yasal metin yayınlanana kadar, dışarıdaki kimse geçici duraklamanın ne kadar araştırma ve geliştirmeyi kapsayacağını bilemez.

Önerinizin zamanlaması, bu tanımların ne kadar zorlaştığını gösteriyor. 3 Eylül 2026’da, siz ve Temsilci Greg Casar, yapay süperzeka hedefli bir yasa duyururken, OpenAI GPT‑6 Astra’yı yayımladı; bu model, şirketin “Kritik siber güvenlik” eşiğini ilk kez aşan modelidir. OpenAI, uygun araç ve erişimle Astra’nın daha önce bilinmeyen güvenlik açıklarını keşfedebileceğini ve insan müdahalesi olmadan iyi korunmuş sistemlere karşı istismar geliştirebileceğini belirtiyor.

Başlangıç brifinginde OpenAI Başkanı Greg Brockman, “AGI çağına hoş geldiniz.” diyerek çok daha ileri bir iddiada bulundu. Ancak OpenAI’nin sistem kartı aynı anda Astra’nın AI‑Kendi‑İyileştirme için “Yüksek” eşiği aşmadığını da belirtiyor.

Bu gerilim, Kongre’ye önemli bir şey söylemelidir. Zeka çok boyutludur. Bir sistem siber güvenlik, matematik ya da mesleki işlerde olağanüstü olabilir, ancak zeka patlaması ya da insan kontrolünün kaybı ile ilişkilendirilen tüm yeteneklere sahip olmayabilir.

Dolayısıyla çözüm, teknoloji şirketlerinin terminolojiyi tanımlamasına izin vermek değil, tam tersidir: yasa, ölçülebilir yetenekleri, özerkliği, erişimi ve kanıtlanmış riski düzenlemeli, tartışmalı bir etiketi yasal araştırma ile suç arasındaki çizgiye koymamalıdır.

Your fight for educational equality illustrates what is at stake

On yıllardır, eğitime erişimin bir ailenin gelirine bağlı olmaması gerektiğini savundunuz. 2015’te dört yıllık devlet üniversitelerinin ücretsiz olmasını amaçlayan bir yasa tanıttınız. Bu konuyu tekrar tekrar gündeme getirdiniz ve 2025 College for All Act, kamu üniversitelerinin %95’lik öğrenci kitlesi için ücretsiz olmasını, topluluk kolejlerinin ise herkes için ücretsiz olmasını sağlayacak.

Bu felsefe, yapay zekâyla doğrudan bağlantılıdır.

İnsanlık tarihinin büyük bir bölümünde, üstün öğretime erişim nadirdi. Coğrafya, aile geliri, okul bütçesi ve uzman öğretmen bulunabilirliği, bir çocuğun ne öğrenebileceğini belirlerdi.

AI, bu denklemi değiştirme potansiyeli sunar.

Zaten erken kanıtlar görüyoruz. Nijerya’da Dünya Bankası’nın rastgele kontrollü denemesi, GPT‑4 tabanlı bir öğretmen destekli programı altı hafta süren bir süreçte alan öğrencilerin test performansını 0,31 standart sapma artırdığını gösterdi. Stanford’da Tutor CoPilot, dezavantajlı topluluklardan 700’den fazla öğretmen ve 1.000’den fazla öğrenciyle test edildi; AI yardımı alan öğretmenlerin öğrencileri matematik konularında %4 puan daha yüksek başarı gösterdi, düşük puanlı öğretmenlere atanan öğrencilerde ise kazanç %9’a ulaştı.

Hiçbir çalışma AI’nın eğitim eşitsizliğini tamamen çözeceğini kanıtlamaz. Hiçbiri AGI gerektirmez. Ancak her iki çalışma da bu teknolojinin hangi yönde ilerleyebileceğini gösterir.

Bu yönün devam ettiğini hayal edin.

Kırsal Louisiana’da bir çocuk, elit bir okula yakın yaşamazsa olağanüstü bir matematik öğretmenine ulaşamaz. Astronomi meraklısı bir öğrenci, üniversiteye kadar astrofizik keşfetmek zorunda kalmaz. Arkeoloji meraklısı bir çocuk, AI öğretmeninin okuma, tarih, istatistik ve bilimsel akıl yürütme eksiklerini tespit edip öğretimi buna göre uyarlamasıyla merakını sürdürebilir.

Hedef öğretmenleri yerine koymak olmamalı; öğretmen ve öğrencilere, daha önce ekonomik olarak bire bir sunulamayan uzmanlığı sağlamak olmalıdır.

Belki de ilk kez, kişiselleştirilmiş öğretim, devasa ölçekle teknolojik olarak mümkün hâle geliyor. Gelecek nesilleri korumayı amaçlayan bir yasa, bu kapıyı kapatmamalıdır.

Your healthcare agenda makes the same case

Sağlık alanındaki siciliniz de aynı tutarlılığı gösteriyor. 2017’de Medicare for All Yasasını tanıttınız ve 2019, 2023 ve 2025’te yeniden sundunuz; sağlık hizmetinin bir ayrıcalık değil, bir hak olarak görülmesi gerektiğini savundunuz.

Ayrıca, hizmet dışı topluluklarda gerçek tıp profesyonellerinin eksikliği sorununu da yıllarca ele aldınız. Community Health Center ve Primary Care Workforce Expansion girişimleriniz, tıbbi açıdan hizmet dışı bölgelere erişimi artırmayı hedefledi; 2023’te Senatör Roger Marshall ile ortaklaşa sunduğunuz ikili parti birincil bakım yasası, topluluk‑sağlık‑merkezleri finansmanını artırmayı ve National Health Service Corps ile tıp rezidans hattını genişletmeyi amaçladı. 2025’te Senatör Jeff Merkley ile birlikte Health Care Workforce Expansion Actı tanıttınız; bu yasa, özellikle kırsal bölgelerde doktor, hemşire ve diş hekimlerinin sayısını artırmak için burs desteği içeriyor.

Bu politikalar, finansal kıtlık ve insan kaynağı kıtlığına odaklanıyor.

AI, üçüncü bir kıtlık olan uzman bilgi eksikliğini gidermeye yardımcı olabilir.

FDA, 10.000’den fazla nadir hastalığın 30 milyondan fazla Amerikalıyı etkilediğini tahmin ediyor; bu, on kişiden birine tekabül ediyor ve çoğu nadir hastalık hâlâ onaylı tedavi bulamıyor. Küçük hasta popülasyonları, geleneksel klinik denemeleri de özellikle zorlaştırıyor.

Yapay zekâ, biyoloji ya da klinik doğrulama sürecinin sihirli bir kısayolu değildir. AI ile keşfedilen ilaçlar, diğer ilaçlar gibi başarısız olabilir. Ancak keşif sürecinin bazı bölümlerini zaten değiştiriyor.

2025’te araştırmacılar yayınladıkları rentosertib adlı, yapay zekâ ile keşfedilen bir küçük molekülün idiopatik pulmoner fibroz için ilk randomize Faz 2a denemesini sundular. Sonuçlar gerçek bir klinik dönüm noktasıydı; araştırmacılar, AI‑keşifli ilaçların klinik denemelere ulaşmasının hâlâ sınırlı olduğunu ve o tarihe kadar hiçbirinin Faz 3’ü tamamlamadığını vurguladı.

Bu, teknolojiyi ne aşırı övmek ne de tamamen reddetmek gerektiğinin dengeli bir yaklaşımıdır.

Giderek daha yetenekli AI sistemleri, moleküler biyoloji, kimya, genetik, tıbbi literatür, görüntüleme, yazılım, istatistiksel analiz ve deney tasarımını birleştirebilir. Değerleri, insanın tarihsel olarak ayrı ayrı uzmanlık alanlarına bölünmüş alanlarda akıl yürütme yapabilmelerinden kaynaklanabilir.

Dolayısıyla soru, “AGI tek başına kanseri, Alzheimer hastalığını, antibiyotik dirençli enfeksiyonları ya da nadir genetik bozuklukları iyileştirebilir mi?” değil; kimse sorumlu bir şekilde bunu vaat edemez.

Soru, Kongre’nin, bu tür bir zekâyı, bu problemlere katkı sağlayıp sağlayamayacağını bilmeden, geniş kapsamlı bir yeteneği kalıcı olarak yasaklaması gerekip gerekmediğidir.

Many of today’s most concrete AI harms do not require AGI

Genel zekâyı düzenleyici hedef olarak seçmenin bir diğer sorunu, bugün AI’nın yol açtığı en büyük zararların bir kısmının hâlâ yapay genel zekâya yakın olmamasıdır.

2020’de Facebook’un öneri algoritmalarının dezenformasyonu nasıl artırabileceği üzerine Unite.AI’de yazmıştım. Endişe, Facebook’un insanlıktan daha zeki bir zekâ yarattığı değildi; amaç, etkileşimi maksimize eden bir optimizasyon sisteminin, topluma değerinden bağımsız olarak daha güçlü tepkiler uyandıran içeriği öncelikli göstermesiydi.

Yetersiz yönetilen öneri sistemlerinin sonuçları artık göz ardı edilemez. Amnesty International Meta’nın algoritmalarının, Myanmar’da Rohingya’ya karşı nefret ve şiddet içeren içeriği aktif olarak artırdığını belirtti; bu, kitlesel şiddet riskini artırdı. Avrupa Komisyonu da YouTube, Snapchat ve TikTok’tan, zararlı içerik, seçimler, sivil söylem, bağımlılık, “tavşan delikleri”, zihinsel sağlık ve çocuklar üzerindeki riskler hakkında bilgi talep etti.

Bu sistemlerin hiçbiri bir hükümeti devirmeye, kendini yinelemeli olarak geliştirmeye ya da süperinsan genel akıl yürütmeye ihtiyaç duymadı.

Sadece yanlış bir amaç, yeterli ölçekle dağıtıldı.

Bu, AI düzenlemesinin temel bir ilkesini gösterir: zarar, modelin ne kadar akıllı olduğuna bağlı değildir. Yanlış teşviklerle milyarlarca kez kullanılan dar bir algoritma toplumsal yıkıma yol açabilir. Katı kontrol altında, laboratuvar, sınıf ya da hastane ortamında çalışan çok genel bir sistem ise muazzam fayda sağlayabilir.

Düzenleme, bu farkı tanımalıdır.

Dual-use technology requires control over use, access and authority

Aynı ilke gözetim teknolojilerine de uygulanır.

Bilgisayarlı görme ve desen tanıma teknolojileri, hekimlerin tıbbi görüntüleri analiz etmesine, tehlikeli endüstriyel ortamları denetlemesine, kurtarma robotlarını yönlendirmesine ve insanlar için uygun olmayan görevleri otomatikleştirmesine yardımcı olabilir.

Bu teknolojiler aynı zamanda olağanüstü güçlü gözetim sistemleri inşa etmek için de kullanılabilir.

Yakın zamanda Washington Post araştırması, en az 50 kolluk görevlisinin otomatik plaka okuyucu sistemlerini kişisel amaçlarla kötüye kullandığını, suçlandığını ya da mahkum edildiğini ortaya koydu. Bir olayda, bir polis şefi eski bir ortak ve ergen kızını yaklaşık 600 kez sorgulamış. Daha sonraki bir soruşturma, suçlanan, suçlanan ya da mahkum edilen yetkililerin sayısını en az 69’a yükseltti.

Bu, ciddi bir teknoloji‑politika başarısızlığıdır.

Ancak pratik düzenleyici kaldıraçların nerede olduğunu fark edin. Soruşturmanın ardından Flock kullanıcı aramalarının suç davası kodlarıyla yapılmasını, otomatik kötüye kullanım tespitinin zorunlu olmasını ve varsayılan veri saklama süresinin 30 günden 7 güne düşürülmesini duyurdu. Bu önlemler yeterli olmayabilir, ancak yetkililerin düzenleyebileceği kontrol türlerini gösterir: yetkilendirme, amaç sınırlaması, denetim izleri, saklama, insan sorumluluğu ve kötüye kullanım cezaları.

Kötüye kullanım gözetimini yasaklamak, bilgisayarlı görmeyi yasaklamak anlamına gelmez.

Kötüye kullanım siber saldırıları, mutlaka siber güvenlik yapabilen bir modeli yasaklamayı gerektirmez.

Cevap, sistemlerin ne yapmasına izin verildiğini, hangi kaynaklara erişebileceğini, kimlerin sonuçsal eylemleri yetkilendirebileceğini ve bu sınırlar ihlal edildiğinde ne olacağını düzenlemektir.

You have already written part of a better regulatory model

İlginç bir şekilde, bu yıl tanıttığınız başka bir yasa, daha üretken bir yaklaşıma işaret eden birkaç fikir içeriyor.

Artificial Intelligence Data Center Moratorium Act metnini tamamen okudum. Veri merkezi inşasını tamamen durdurmayı reddediyorum, ancak moratoryumu kaldırmak için önerdiğiniz koşullar, zekâ kategorisine yönelik genel bir yasaktan çok daha somut.

Yasalarınız, AI veri merkezlerinin tüketicilerin elektrik faturalarını artırmaması, iklim değişikliğini şiddetlendirmemesi ya da çevreye zarar vermemesi gerektiğini söylüyor. Etkilenen toplulukların sesinin duyulması, güçlü işçi standartları ve su kullanımı, enerji tüketimi, sera gazı emisyonları, atık su, soğutma kimyasalları, gürültü, istihdam ve diğer etkiler hakkında kamu raporlaması talep ediliyor.

Bunlar ölçülebilir dışsal etkiler. Düzenlemenin etkili olabileceği tam da bu noktadır.

Enerji konusunda daha ileri gitmek isterim. AI sektörü, artan elektrik talebini kömür santrallerinin ömrünü uzatmak ya da altyapı maliyetlerini sıradan tüketicilere yüklemek bahanesiyle kullanmamalıdır. Yeni hiperskala projeler, şebekeye önemli ölçüde düşük‑ya da sıfır‑karbonlu üretim eklemeli ve su‑enerji etkilerini açıklamalıdır.

Zaten bu dönüşümün nasıl görünebileceğine dair umut verici örnekler var. Exowatt’ın P3 sistemi, güneş enerjisini ısı olarak yakalar, depolar ve veri merkezi yükleri için tasarlanmış dağıtılabilir elektriğe dönüştürür. Ve bu hafta, Fervo Energy Google ile Utah’ta 24/7 karbon‑suz artırılmış jeotermal enerji için 396 megavatlık bir anlaşma duyurdu; bu, toplamda bir gigavat seviyesine yaklaşabilir.

AI’nın enerji iştahı, kirli altyapıyı uzatmak ya da yeni temiz‑enerji teknolojileri için dev bir talep motoru olmak arasında bir tercih olabilir.

Hükümet politikası, hangi sonucun gerçekleşeceğini belirleyebilir.

Ve Haziran’da tanıttığınız American AI Sovereign Wealth Fund Act, bir başka ilkeyi içeriyor: AI olağanüstü ekonomik değer yaratırsa, sıradan insanlar bu değerden pay almalıdır. Öneriniz, AI‑kaynaklı servetin sonunda sağlık, eğitim, konut ve sağlıklı bir çevreye katkı sağlamasını açıkça öngörüyor.

Bu, kritik bir gerçeği kabul eder: yapay zekâ olağanüstü potansiyel değere sahiptir. Gerçek politik soru, bu değerin nasıl kontrol edileceği ve dağıtılacağıdır.

A better alternative to a permanent ban

Yapay Süperzeka Yasaklama Yasası’nın en güçlü bölümlerini korumanızı öneriyorum: federal düzenleyici, bağımsız teknik uzmanlık, sınır‑ötesi sistemlerin zorunlu denetimi, anlamlı cezalar ve uluslararası koordinasyon. Ancak yasaklamayı tetikleyen koşulları ve faydalı gelişimin nasıl devam edeceğini köklü bir şekilde değiştirmeliyiz.

• AGI ya da ASI etiketi yerine ölçülebilir tehlikeli yetenekleri düzenleyin. Otonom siber saldırı, biyolojik ya da kimyasal silah etkinleştirme, kapanma engelleme, yetkisiz çoğaltma, stratejik aldatma ve felaket zarar verebilecek diğer yetenekler etrafında teknik olarak tanımlanmış eşikler oluşturun.
• Sınır‑ötesi eşikleri aşan sistemler için lisanslama ve bağımsız değerlendirme zorunluluğu getirin. Geliştiriciler, belirli tehlikeli yeteneklere sahip sistemleri dağıtmadan önce güvenliği kanıtlamalı; modeller yeni araç, izin ya da özerklik kazandıkça değerlendirmeler tekrarlanmalı. Ciddi olaylar zorunlu açıklama yükümlülüğü taşımalı.
• Bağımsız bir düzenleyiciye gerçek icra gücü verin. Önerdiğiniz ajans, sınır‑ötesi laboratuvarları denetleyebilmeli, bilgi talep edebilmeli, düzeltme isteyebilmeli ve tehlikeli dağıtımları durdurabilmelidir. Ancak standartlar şeffaf, teknik olarak ölçülebilir ve bağımsız bilim insanları tarafından periyodik olarak gözden geçirilmelidir.
• Modelin ne kadar akıllı olduğuna bakılmaksızın zararlı uygulamaları yasaklayın. Yetkisiz siber saldırılar, yasa dışı gözetim, tehlikeli biyolojik yardım ve diğer kabul edilemez kullanımlar, dar bir model, bir AGI sistemi ya da geleneksel yazılım üzerinden gerçekleştirilsin, yasa dışı kalmalıdır.
• Sosyal açıdan değerli araştırmalar için kontrollü yollar oluşturun. Tıp, bilimsel keşif, eğitim, siber güvenlik savunması ve uyum araştırmaları, güçlü modellere insan gözetimi, doğrulama, güvenlik ve denetim gerektiren düzenlenmiş mekanizmalarla erişim izni alabilmelidir.
• AI altyapısının tam sosyal ve çevresel maliyetini ödeyecek şekilde uluslararası koordinasyon sağlayın. Kullanıcıları koruyun, su ve enerji kullanımının şeffaf raporlamasını zorunlu kılın, ek temiz üretimi hızlandırın, anlamlı topluluk ve işçi korumaları sürdürün ve müttefiklerle ortak yetenek standartları, değerlendirmeler ve ihracat kontrolleri üzerinde çalışın.

Bu, Silikon Vadisi’ne güvenmek anlamına gelmez.

Tam tersidir.

Teknoloji sektörü, Senato’nun gönüllü öz‑düzenlemeye güvenmemesi için yeterli sebep sunmuştur. OpenAI ve Anthropic olayları, sınır‑ötesi AI’nın dış denetim ve uygulanabilir güvenlik standartlarına ihtiyaç duyduğunu açıkça göstermektedir.

Ancak teknoloji şirketlerine duyulan güvensizlik, teknolojik ilerlemeye duyulan güvensizlik haline gelmemelidir.

The choice is not reckless acceleration or prohibition

Senatör Sanders, kariyeriniz boyunca kıtlıkla mücadele ettiniz.

Ailenin geliri, bir çocuğun eğitim alıp almayacağını belirlememeli. Bir kişinin banka hesabı ya da posta kodu, aldığı sağlık hizmetini etkilememeli. Büyük kazançların küçük bir gruba, maliyetlerin ise çoğuma yüklenmesi gibi ekonomik yapıların karşısında mücadele ettiniz.

Yapay zekâ, bu sorunların her birini daha da kötüleştirebilir.

Önceden görülmemiş bir servet yoğunlaşmasına yol açabilir. Verimlilik artışını paylaşmadan işçileri yerinden edebilir. Gözetim, manipülasyon ve siber saldırı yeteneklerini artırabilir. Gücü, birkaç büyük şirketin ellerinde toplama riski taşır.

Bu riskler, düzenlemeyi zorunlu kılar.

Ama AI, insanlık tarihinin en eski eşitsizliklerinden birini azaltabilir: uzmanlık erişimindeki eşitsizlik.

Her çocuğun kişiselleştirilmiş öğretime, her hekimin olağanüstü analitik desteğe, her bilim insanının yüzyıllık birikmiş araştırmaya ve hasta popülasyonu çok küçük olduğu için göz ardı edilen hastalıkların çok daha fazla bilimsel ilgi görmesine olanak tanıyan bir dünya, aynı zamanda savunulması gereken bir gelecek de olur.

Bu geleceği AI güvenliğiyle karşılaştırmak zorunda kalmamalıyız.

Daha iyi hedef, güçlü AI’nın kötüye kullanılmasını zorlaştırmak, kontrol dışına çıkmasını engellemek, denetlenebilir olmasını sağlamak, sorumsuzca dağıtımını pahalı hâle getirmek ve toplumsal fayda için geniş çapta erişilebilir kılmaktır.

İnsanlığı tehlikeye atan davranışları yasaklayın. Tehlikeli yeteneklere lisans verin. İhmalci ve kötü niyetli dağıtımları cezalandırın. Şirketlerin altyapı maliyetlerinin çevresel etkilerini içselleştirmesini zorunlu kılın. İşçileri koruyun. Ekonomik kazançların bir kısmını halka dağıtın. Ve dünyanın en büyük teknoloji şirketlerine bile “hayır” diyebilecek bağımsız bir düzenleyici oluşturun.

Ancak lütfen, insan bilişsel yeteneğini birçok alanda eşleştiren bir zekâyı suç hâline getirecek kadar geniş bir “yasaklı zeka” tanımı yapmayın.

Hayatınız boyunca, ayrıcalıklı bir kesime mahsus olan şeylere erişimi genişletmek üzerine odaklandınız.

Gelişmiş yapay zekâ, şimdiye kadar yarattığımız en büyük güç konsantrasyon motoru olabilir.

Ya da bilgi, eğitim, tıp ve bilimsel yetenekleri demokratikleştiren en büyük araçlardan biri haline gelebilir.

İyi bir yasa, hangi geleceği elde edeceğimizi belirlememize yardımcı olabilir.