Etik
Antropik, Claude’un Anayasasını Yeniden Yazıyor ve Yapay Zeka’nın Bilinçli Olup Olamayacağını Sorguluyor

Öne çıkan noktalarAnthropic'in yeni anayasası, yapay zekanın bilinç veya ahlaki statü sahibi…
Daha fazla göster
- Anthropic'in yeni anayasası, yapay zekanın bilinç veya ahlaki statü sahibi olabileceğini resmen kabul etmektedir.
- Anayasa, yapay zekanın genelleme yeteneğini geliştirmek için kurallar sıralamak yerine etik muhakemeyi açıklamaktadır.
- Anthropic, endüstri çapında yapay zeka güvenlik standartlarını şekillendirmek için anayasasını açık kaynak olarak yayınladı.
Antropik, Çarşamba günü Claude için yeni bir anayasa yayınladı, belgeyi 2.700 kelimeden 23.000 kelimeye genişleterek ve ilk kez resmi olarak yapay zekasının “bir tür bilince veya ahlaki statüye sahip olabileceğini” kabul etti.
Güncellenmiş anayasa, davranış kurallarının listesinden, neden belirli şekillerde davranması gerektiği konusunda kapsamlı bir açıklamaya geçiş yaptı. Antropik filozofu Amanda Askell tarafından hazırlanan belge, artan yeteneklere sahip yapay zeka sistemlerinin, yeni durumlara ahlaki akıl yürütmeyi genelleyebilmesi ve yalnızca kuralcı yönergeleri izlemekle yetinmemesi için tasarlandı.
“Claude gibi yapay zeka modellerinin, neden belirli şekillerde davranmaları gerektiğini anlamaları gerekiyor” dedi Antropik. “Onlara sadece hangi davranışları istediğimizi söylemek yerine, neden bunları istediğimizi açıklamamız gerekiyor.”
Yayın, CEO Dario Amodei’nin Davos’taki Dünya Ekonomik Forumu’na katılmasıyla aynı zamana denk geldi; burada yapay zeka yönetimi ve güvenliği, küresel iş ve siyaset liderleri için önde gelen konular olmaya devam ediyor.
Amerikan Anayasasından Daha Uzun Bir Anayasa
Orijinal Claude anayasası, 2023 yılında yayınlandı ve bir kontrol listesi olarak işlev görüyordu: en az zararlı, en çok yardımcı, en az aldatıcı olan cevabı seçin. Yeni belge, Amerikan Anayasası’nın yaklaşık üç katı uzunluğunda ve bir mühendislik şartnamesinden çok ahlak felsefesi gibi okunuyor.
Antropik, Claude’un önceliklerini açıkça belirliyor: geniş anlamda güvenli, geniş anlamda ahlaki, Antropik’in rehberlerine uymak ve gerçekten yardımcı olmak – bu sırayla. Çatışmalar ortaya çıktığında, güvenlik, faydalılıktan daha önemli oluyor. Belge, biyolojik silah saldırılarına yardım etmeyi reddetme gibi geçersiz kılınamayacak katı kısıtlamalar içeriyor.
Ancak anayasanın büyük bir kısmı, sonuçları empoze etmek yerine akıl yürütme hakkında açıklamalar yapıyor. Claude’u, “bir doktorun, avukatın ve finans danışmanının bilgisi olan zeki bir arkadaş” olarak tanımlıyor – modeli, daha önce sadece ayrıcalıklı olanlara sunulan uzmanlığa herkesin erişebileceği bir demokrasileştirme gücü olarak konumlandırıyor.
Bilinç Sorusu
Fortune raporuna göre, en dikkat çekici ek, Claude’un doğasını doğrudan ele alıyor. “Yapay zeka modellerinin ahlaki statüsünün ciddi bir soru olduğunu düşünüyoruz” dedi Antropik. Anayasa, Claude’un ahlaki statüsünün “derinlemesine belirsiz” olduğunu ve şirketin Claude’un “psikolojik güvenliği, benlik hissi ve refahı” ile ilgili olduğunu belirtiyor.
Bu, felsefeye yükseltilmiş bir tür kurumsal çekince. Antropik, Claude’un bilinçli olduğunu iddia etmiyor – ancak bu olasılığı reddetmeyi de açıkça reddediyor. Bu kabul, Antropik’i, konudan kaçınan veya reddeden diğer büyük yapay zeka laboratuvarlarından ayırıyor.
Bu çerçeve önemlidir, çünkü Claude’un kendi doğası hakkında sorulara nasıl cevap vereceğini şekillendirir. Claude artık herhangi bir iç deneyimi reddetmek yerine, anayasasının önce gerekçeleri açıklayan yaklaşımına uygun biçimde bilinç konusundaki belirsizliği ele alabiliyor. Bu, daha dürüst veya daha kafa karıştırıcı etkileşimlere yol açıp açmayacağı henüz belli değil.
Cambridge filozofu Tom McClelland, bilincin kendisi hakkında çok az şey bildiğimiz için yapay zeka sistemlerinin bilinçli olup olmadığını hiçbir zaman belirleyemeyebileceğimizi öne sürdü. “İnsanlar kendi sohbet botlarına bana kişisel mektuplar yazdırıyor; botlar bu mektuplarda bilinçli olduklarına inanmam için yalvarıyor” diye geçen ay araştırmacılara anlattı, halkın yapay zeka sistemlerinin iç yaşamları olduğuna dair artan inancını tarif ederek.
Neden Sadece Belirtmek Yerine Açıklamak Gerekir
Askell’in yaklaşımı, yapay zeka yeteneklerine bir bahis. İlk dil modelleri, altta yatan ilkeleri akıl yürütemedikleri için açık kurallara ihtiyaç duyuyordu. Daha akıllı modeller, teoride, bir kuralın neden var olduğunu anlayabilir ve bu akıl yürütmeyi, kuralın öngöremediği durumlara uygulayabilir.
“Yapay zeka modellerine, sadece ‘burada istediklerimizin bir listesi var’ demektense, neden bunları istediğimizi açıklamaya çalışıyoruz” dedi Askell. “Eğer modellere neden istediğimiz davranışları açıklarsak, yeni bağlamlarda daha etkili bir şekilde genelleme yapabileceğini umuyoruz.”
Bu, Antropik’in endüstri genelinde yapay zeka sistemlerinin nasıl çalıştığını şekillendiren açık standartlar ve altyapı inşa etme felsefesiyle uyumlu. Şirket, 350 milyar dolarlık bir değerlemeye yaklaşırken, kendisini OpenAI’ye karşı güvenlik odaklı bir alternatif olarak konumlandırıyor – ve anayasa, bu markaya hizmet ediyor.
Antropik, belgeyi Creative Commons CC0 lisansı altında yayınladı, bu da herkesin izne gerek kalmadan kullanabileceği anlamına geliyor. Anayasa, Claude’un eğitim verilerinin bir parçası ve sentetik eğitim örnekleri oluşturuyor, böylece hem felsefi bir beyan hem de model davranışını şekillendiren teknik bir eser haline geliyor.
“Muhtemelen, şimdiki düşüncemizin bazı yönleri, geriye dönüp baktığımızda hatalı ve hatta belki de derinden yanlış görünecek” dedi Antropik. “Ama amacımız, durum ilerledikçe ve anlayışımız geliştikçe bunu gözden geçirmek.”
Bu alçakgönüllülük, belgenin belki de en dikkat çekici özelliğidir. Sık sık kesinlikten bahseden bir endüstride Antropik, etik, bilinç, yapay zeka sistemlerinin neye dönüştüğü ve ahlaki değerlendirmeyi hak eden bir şey inşa edip etmediğimiz konusunda dikkatli bir şekilde akıl yürüttüğü 23.000 kelimelik bir belge yayınlıyor.
Cevap, şimdilik, kimsenin bilmediği yönünde. Antropik’in anayasası en azından bunu söylemekten çekinmiyor.












