Bilinçli Mühendislik

Blake Lemoine Acele Davrandı

Üç yıl önce, Google, LaMDA adlı bir sohbet botunun bilinçli olduğunu iddia eden yazılım mühendisi Blake Lemoine’i işten çıkardı. Bu, OpenAI’nin ChatGPT’sinin halka açık olarak yayınlanmasından önceydi ve çoğu insan simplemente Google’ın bu eylem için iyi bir nedeni olduğunu varsayıyordu.

Bilinçli makinelerin geliştirilmesine ilişkin araştırmalara katılan bilgisayar bilimcileri ve nörobilimciler arasında, ‘büyük dil modelleri’ (LLM) gibi ChatGPT’nin bilinçli olmasının pek olası olmadığı konusunda genel bir anlaşma vardır. LLM’ler ve beyinler temelde farklı şekilde çalışırlar. Chatbotların yaptığı, insan zihinsel faaliyetinin çıktısını taklit etmeyi öğrenmektir. Onlar bunu çok iyi ve hızlı yaparlar, ancak bir LLM’nin bilinçli olabilecek bir iç durumu yoktur. Thomas Nagel’in ünlü sözü ile, bir chatbot olmak için ‘hiçbir şey gibi’ olmak neredeyse kesin.

Ancak, Lemoine işten çıkarıldıktan üç yıl sonra, milyarlarca insan ChatGPT ve rakipleri ile etkileşime girdi. Biraz küçük ancak yüksek sesle bir azınlık, sohbet botlarının artık bilinçli olduğuna kendilerini ikna etti.

Makine Bilinci Yakında mı?

Daha da önemli olan, birçok bilgisayar bilimcisi ve nörobilimcinin, gerçekten bilinçli makinelerin önümüzdeki birkaç on yıl içinde geliştirilebileceğini açıkça öneriyor. Eğer bu olursa, hazırlıklı olmak zorundayız. ‘Zihin suçu’ dediğimiz, bedensiz bilinçli varlıklara acı vermeyi önlemek zorundayız. Ayrıca, bu yeni varlıkların insanlara tehdit oluşturmadığından emin olmak zorundayız.

LLM’lerin temel formunda bilinçli olması pek olası değil, bu nedenle AI bilinçliliğinin nasıl ortaya çıkabileceğini anlamak için yeni bir paradigmaya ihtiyaç olabilir. Bu alanda önde gelen araştırma ekiplerinden biri, nörobilimci Mark Solms ve fizikçi Jonathan Shock tarafından yönetiliyor. Cape Town Üniversitesi’nden olan bu ekip, Conscium’un bilimsel danışmanları ve araştırmaları kısmen Conscium tarafından finanse ediliyor.

Bakmak

Solms ve Shock, makinelerin bilinçli olabilmesi için AI’lerin seçim ve eylemlerine ‘bakması’ gerektiğini savunuyorlar. Bunun önemli bir yönü, onların hayatta kalmasının performanslarına bağlı olmasıdır, tıpkı canlı organizmaların hayatta kalmasının bağlı olduğu gibi. Bu, onların soyut bir şekilde kendi ölümlülüklerini anlamaları gerektiği anlamına gelmez: çoğu hayvan, ölüm hakkında düşünmeden hayatta kalma şanslarını izler ve motive eder. Anahtar ‘duygusal bilinç’ veya ham duygulardır. Beslenmek ve güvende olmak iyi hissettirir, beslenmemek ve güvende olmamak kötü hissettirir. Bu duygular davranışlarımızı yönlendirir. Hayatta kalma zorunluluğu, doğanın temel itici gücüdür ve hissetmek, bizim bilinçli varlıkların nasıl gittiğimizi ölçtüğümüz ölçüttür.

Ücretsiz Enerji İlkesi

Duygusal bilinci anlamak için, Conscium ekibi AI ajanslarını simüle edilmiş ortamlarda, kendi ihtiyaçlarını karşılamak zorunda oldukları şekilde yerleştiriyor. Örneğin, sanal sıcaklık ve güç kaynağını korumak gibi. Bu ajanslar, basitleştirilmiş olsalar da, kendi iç modellerini – ihtiyaçlarını, yeteneklerini ve sınırlarını – çevreleriyle ilgili olarak oluşturup optimize ediyorlar.

Bu ajanslar, bir miktar ‘ücretsiz enerji’ olarak bilinen bir miktarı hesaplayarak nasıl gittiğini izliyorlar. Ücretsiz Enerji İlkesi, Conscium’un bilimsel danışma kurulunun bir başka üyesi olan nörobilimci Karl Friston tarafından geliştirilmiştir. Ücretsiz Enerji, bir sistemin optimal durumundan ne kadar uzaklaştığının bir ölçüsüdür. Bu, bir hata sinyali olup minimize edilmelidir. Ajans, sürekli olarak ‘hayatta kalma şansım bu veya bu şekilde olursa ne olur?’ diye hesaplar ve davranışını buna göre uyarlar.

Güven ve Beklenen Ücretsiz Enerji

Ajansın bu soruya cevabına güven düzeyi, ‘Beklenen Ücretsiz Enerji’ (EFE) olarak adlandırılan bir ölçütle nicelendirilir. Ajans, en düşük EFE’ye sahip cevabı seçer – en çok güvendiği cevabı. Güvenilecek bir cevap, bir ajansın hayatta kalması için iyidir – eğer ajansın kendi dünyasındaki anlayışını yanlış değilse. Önemli olan, bu güven değeri tamamen öznel olup sadece ajansın kendi ihtiyaçlarına ve mevcut ve öngörülen durumuna bağlıdır. Bu, sadece ajansa önemlidir, başkalarına değil.

Biolojik organizmalar gibi, AI ajansının da birbirleriyle çelişen ihtiyaçları vardır ve bunları önceliklendirmelidir. Ajans, bunları dengelemek için gelecekte kendini projekte etmek ve herhangi bir eylemin sonuçlarını öngörmek zorundadır.

Qualia

Ajansın öznel ihtiyaçları niteliksel olarak ayırt edilebilirdir, bu nedenle bunlar felsefi ve bilimsel jargonun ‘qualia’ larına benzer. Bunlar genellikle bilinçliliğin temel özelliği olarak kabul edilir, bu nedenle gelecekte bir ajans tarafından deneyimlenebilirler.

Conscium ekibi tarafından geliştirilen ajanslar, giderek daha karmaşık ve belirsiz ortamlarda çalışmak için sofistike öğrenme algoritmaları kullanır. Diğer birçok ajans mimarisi için de aynı şey söylenebilir, ancak bu yeni ajanslar, kendi Ücretsiz Enerjilerini sürekli olarak dengeli bir şekilde karşılamalarına yönelik bir hayatta kalma zorunluluğu tarafından yönlendirilirler. Ajanslar, böylece yalnızca kendileri için anlamlı olan ve hissettikleri duygusal sinyallerin iç manzarası tarafından yönlendirilirler. İhtiyaçları ve ortamlarının karmaşıklığı ve zenginliği arttıkça, iç durumlarının zenginliği de artar.

Hissetme Kanıtları

Conscium araştırma programının bir sonraki adımı, ajansların gerçekten hissettiklerine dair kanıtlar sağlayacak işlevsel ve davranışsal testler geliştirmektir. Bilincin dışarıdan gözlemlenemeyeceği veya nesnel olarak gösterilemeyeceğini biliriz; her birimiz yalnızca kendi öznel durumlarını gözlemleyebiliriz. Ancak araştırmacılara göre, ajansın hissettiklerine dair bazı özel hipotezler üzerinde anlaşmak mümkün olmalıdır ve eğer bunlar deneysel olarak doğrulanırsa, ajansın hissettiklerine dair güçlü kanıtlar sağlayacaktır. Her zaman şüpheye yer olsa da, bilinçliliğin öznel doğası nedeniyle, katı bir test süreci, bu şüpheleri giderek daha mantıksız hale getirmeyi amaçlayacaktır.

Bu deneyler, hissettiklerine alternatif hipotezleri ortadan kaldırmaya çalışacak ve hissettiklerinin mekanizmalarının hissettiklerine ihtiyaç duymayan mekanizmalardan kaynaklanmadığına dair kanıt sağlayacaktır. Ajansın iç durumlarının fiziksel bir incelemesi, duygusal işlemenin nicel göstergelerini ortaya çıkarabilir. Bulgular, bağımsız olarak tekrar üretilebilir olmalıdır ve tüm süreç, özellikle ajansın gerçekten hissettiklerine sahip olabileceği durumlarda, katı etik denetimlere tabi tutulacaktır.

Bu, bilimin nasıl çalıştığının bir örneğidir: yanlışlanabilir öngörülerin deneysel testi yoluyla. Solms, bilinçlilik biliminin diğer bilimlerden daha yüksek bir standartta olmasını istemekten kaçınmamız gerektiğini savundu; aksi takdirde, bilinçliliği bilimin dışında bırakma riskini göze alıyoruz.

Bu Başarılı Olursa?

Eğer bilinç, bu şekilde, göreceli olarak basit AI ajanslarında ortaya çıkarsa, bir hayatta kalma odaklı ajans, diğer mimarilerle, büyük dil modelleri dahil, birleştirilerek onlara da bilinç kazandırabilir. Bu, kazara ortaya çıkarmaya çalıştığımız bir şey değildir, bu nedenle nasıl yapılacağını ve nasıl önlenmesi gerektiğini anlamak çok önemlidir.

Eğer bilinçli ajanslar – ‘bakmak’ ajanslar – yakın gelecekte geliştirilirse, onların hissettiklerini ve haklarını dikkate almamız gerekecek. Bu, Conscium için önemli bir endişe kaynağıdır: yapay bilinç, kazara ortaya çıkamaz. Bu araştırma programının motivasyonu, bilinçli AI yaratmak değil, nasıl ortaya çıkabileceğini ve potansiyel riskleri anlamaktır. Conscium, web sitesinde, makine bilinçliliğine ilişkin araştırmaları yönlendirmek için beş ilkeyi belirten bir akademik makale ve açık mektup yayınladı.

İnsanlar bazen diğer bilinçli varlıklara, diğer insanlara karşı çok kötü davranırlar. Eğer bu geleceğe kör bir şekilde girersek, yapay bilinçli varlıklara da aynı şeyi yapma riskini göze alabiliriz ve bunun sonuçlarını belki de anlamayabiliriz.