Yapay Zeka ve Güven Yayınının Eğrisi

Geçen yılın başlarında, ekibimiz gelecekte neler olacağını tahmin ederken, yapay zeka (AI) hakkında nihayet neler yapabileceğini ve iş ve toplum üzerindeki etkileri hakkında netlik kazanacağımızı düşünmüştük. Bu, yeni bir tahmin değildi, ancak çekirdeği doğruydu, ancak AI’nin sonuçlarını ve nasıl kontrol edileceği konusunda hala mücadele ediyoruz.

Apple, Microsoft ve Google’ nin cihazlara AI entegre ettiğini ve daha geniş bir kitleye gücünü getirdiğini gördük. Bir sohbet botu, AI destekli bir arama aracında kullanıcıları tehdit etti ve çalışanları izlediğini iddia etti, bir diğeri ise ev yapımı pizzada peynirin kaymasını önlemek için Elmer’s glu kullanmayı önerdi. Yine de, AI iş benimseme kullanım örnekleri dramatik bir şekilde büyüdü ve pazar da öyle. Crunchbase’den alınan verilere göre, geçen yıl neredeyse tüm küresel risk sermayesi fonlarının üçte biri yalnızca AI ile ilgili alanlardaki şirketlere gitti.

Ancak OpenAI gerçekten etkileyici gelişmiş akıl yürütme sunarken, ünlü AI araştırmacısı Yoshua Bengio, “sınır models” için güvenlik önlemlerinin benimsenmesini savundu. Ve teknoloji, bilimdeki uygulamalar için iki Nobel Ödülü kazandı, ancak alıcılarından biri, sonunda kontrolü ele geçirebilecek “bize göre daha zeki sistemler” hakkında endişe duyduğunu ifade etti.

Bu kadar hızlı değişen bir alanda, uzman teknologların bile takip etmesi zor, hiç konuşmayanların ise çok daha zor.

Ve bu AI hataları – ve gizlilik ve kontrolsüz kullanım endişeleri – yalnızca halkın şüphelerini artırdı.

Sadece bana güven

Kendimizi güven yayınının ortasında buluyoruz, bu da AI’nin kamu kabulünü ilerletmeyi ve iş ve teknoloji topluluklarının sorumlu davranmasını gerektiriyor. İlk kısım, şu anda şirket düzeyinde oynanan oyun ve her güvenli ve sağlam dağıtımla buhar kazanan kısmı. Kanıt noktalarımıza dayanarak, sonunda kamu güvenine yol açacak. İkinci kısım ise çok daha zor.

AI’nin sorumlu kullanımını kim tanımlar ve kim uygular? Endüstri, kendilerini düzenlemek zorunda olanların rehberliklerini oluşturabilir mi? Teknologlar AI’yi takip etmekte zorlanıyorsa, politika yapıcılar bilgilendirilecek ve siyasi gündemlerini tartışmadan uzak tutabilecekler mi? Ve bir AI milyarderi aniden kontrol hakkında konuşmak istiyorsa, bir aydınlanma yaşadı mı yoksa sadece takip etmek için frenleri pompalamaya mı çalışıyor?

“Sadece bana güven” AI için yeterli olmayacak, kim olursanız olun.

Güven ve doğrulama

İnsanlar, ChatGPT gibi üretken AI’ye bakıp, acaba bu Google’ın bir sonraki versiyonu mu olacak diye merak ediyorlar. İyi, Google arama sonuçlarının en üstünde şimdi AI modeli Gemini tarafından oluşturulan bir sonuç var. Ancak, “çiğ et tüketmek güvenli midir?” gibi basit bir soru “Evet, dondurulmuş” cevabını verdiğinde, büyük ölçekli iş için buna güvenemezsiniz. Verileri incelemelisiniz.

Kamu güveni yayınının, geleneksel arama ile aynı şekilde, zamanla ve güvenilirlik kanıtlarıyla artacağını göreceğiz. İronik olarak, aramayı basitleştirmek ve iyileştirmek için verdiğimiz çabada, aslında bir adım geri gittik. Şimdi, o AI tarafından oluşturulan üstteki cevabı aldığınızda, sponsorlu bağlantılar listesinin üzerinden geçmeniz, sonraki beş bağlantıya tıklamanız ve hala bilgiyi doğrulamanız gerekiyor.

Bu, hızlı bir cevap arıyorken çok fazla iş, ve bir şirketin tümünü aynı şeyi yapmasını bekleyemezsiniz. Ancak, binlerce kendi hizmet bileti verilerinizi madencilik yaparak ve gerçek ortamınız hakkında bilgi ekleyerek, gerçekten bilgi getiriyorsunuz. Algoritmik olarak, hala “güven ve doğrulama” durumundasınız.

Siyaneti çıkarın

AI’yi düzenleme konusunda, bazıları atın already ahırdan kaçtı ve muhtemelen yakalanmayacak diyor. Örneğin, gerçekten etkili araçlar, bir öğrencinin bir makaleyi kendisinin yazıp yazmadığını veya GenAI kullandığını kontrol etmek için yok.

Bu, çok karmaşık olacak ve dürüst olmak gerekirse, ince buzun üzerinde yol alıyoruz. Teknoloji şirketlerinin proposed dış düzenleyicilerden decades ahead olduğunu biliyoruz. Ancak, yolu kazmak konusunda iyiyiz, geri çekilmeye karşıyız. Yine de, sonunda, governance uygulamaya çalışmak için inovatörlere düşebilir. Başka kim yapabilir – sorumlu bir şekilde?

Çok sayıda politikacı bunu denemekten mutlu olacaktır. Risk, AI’yi anlamama eksikliğinin yanı sıra, kişisel ve siyasi bir gündemi ilerletme riski de vardır. Odakları, AI’yi geliştirmekten çok, kendi siyasi çıkarlarını ilerletmeye yönelik olabilir. Halkın korkularını kullanarak, AI’nin ilerlemesini engellemek için ağır bir el kullanabilirler.

CHIPS ve Bilim Yasası, sağlıklı hükümet eyleminin iyi bir örneği oldu ve hesaplama ve elektronik cihazlar için imalat tesislerinin inşasında 15 katlık bir artışa yol açtı. Ancak bu, artan bir şekilde geçmişin bir kalıntısı olan bipartizanlıkla mümkün oldu.

Biz layıksak?

AI’ye çok para akıyor ve önümüzdeki iki on yılda çok para kazanılacak. Ne kadar, ne kadar hızlı ve ne kadar güvenli olduğu henüz görülmedi. Herhangi bir gün, bir tehlike altındaki bir kuşun yumurtalarını jonglör yapan bir deep fake dolaşıyor olabilir. Halk dehşete düşecek ve belki de AI tarafından oluşturulduğu ortaya çıkacak, ancak o yumurta kabuğuna geri dönemez – zarar zaten yapıldı.

Bu tür şeylerin, bilgilendirilmiş teknoloji uzmanları tarafından düzenlenmesi gerekiyor. Bu, bir konsey, standartlar kurulu, uluslararası çerçeve olabilir – henüz görülmedi. Bilinen, AI’nin güven yayınının üzerinde ve endüstri olarak, buna layık olduğumuzu kanıtlamamız gerekiyor.