Nedeniyle Causal AI Sonunda AI Modelleri Oluşturuyor, Sadece Tepki Vermiyor

Yapay zeka on yıllar boyunca veri中的 desenleri tanımlamada uzmanlaşmıştır. Makine öğrenimi modelleri, müşteri davranışını tahmin edebilir, piyasa eğilimlerini öngörebilir veya tıbbi riskleri yüksek doğrulukla tanımlayabilir. Ancak bu sistemler genellikle olayların nedenlerini açıklamakta başarısız olurlar. Korelasyonlara güveniyorlar, bu da gerçek nedenler ile basit trùngstellere arasındaki farkı ayırt edemez. Bu sınırlama, AI’ı tepkisel tutar, koşullar değiştiğinde veya müdahaleler hakkında akıl yürütmeye çalıştığında uyum sağlamasını engeller. Causal AI, bu açığı kapatır. Makinelerin neden ve sonuç arasındaki ilişkiyi anlamalarına olanak tanır, bu da makinelerin gerçek akıl yürütme yeteneklerine sahip olmaları için çok önemlidir. Bu yetenek, sistemlere “ne olur” senaryolarını simüle etmelerini, karşı olasılıkları değerlendirmelerini ve açıklanabilir kararlar almalarını sağlar. Kuruluşlar daha güvenilir AI talep ettikçe, nedensel yöntemler tüm endüstrilerde kabul görmektedir.

Korelasyon Tuzağı

Geleneksel makine öğrenimi, veride istatistiksel bağlantılar bulmak suretiyle çalışır. Belirli bir ilacı alan hastaların daha hızlı iyileşmesi durumunda, algoritma bu ilişkiyi öğrenir. Bu yaklaşım, görüntü tanıma, dil çevirisi ve öneri sistemlerinde önemli ilerlemeler kaydetmiştir, ancak ölümcül bir kusuru vardır. Neden ve trùngstellik arasındaki farkı ayırt edemez. Bu yetenek, temel mekanizmanın nasıl çalıştığı hakkında tehlikeli bir körlük yaratır. Örneğin, bir algoritma, sağlık harcamalarının tıbbi ihtiyacı öngörabileceğini öğrendi. Ancak 200 milyon Amerikalının verilerini analiz edildiğinde, bu korelasyonun sistemik önyargıları göz ardı ettiği tespit edildi. Siyah Amerikalıların sağlık harcamaları, benzer koşullara sahip beyaz Amerikalılara göre daha düşük olduğu için, algoritma Siyah hastaların bakım ihtiyaçını düşük tahmin etti. Benzer başarısızlıklar diğer alanlarda da meydana gelir. Ceza adaletinde, COMPAS algoritması, ırkla yeniden suç işleme riski arasında bir korelasyon buldu, bu da önyargılı cezalara yol açtı. Tarımda, bir AI, toprak nemini sıcak günlerle ilişkilendirebilir ve bir sıcaklık dalgası sırasında sulamaya karşı önlemler alabilir, bu da felaket bir öneri olabilir. Sağlık hizmetlerinde, AI sistemleri, astım olan hastaların pnömoni olduğu takdirde daha hızlı iyileştiğini öğrenebilir, ancak bu model, bu hastaların daha yüksek riskli olarak kabul edildiği ve daha yoğun tedavi aldığı için değil, astımın iyileşmesine yardımcı olduğu için bu deseni kaçırır.

Pearl’in Nedenlilik Merdiveni

Nedensel çıkarımın Turing Ödülü sahibi öncüsü Judea Pearl, nedensel AI’ı Nedenlilik Merdiveni aracılığıyla çerçevelendirdi. Bu merdiven, üç ayrı akıl yürütme düzeyini ortaya koyar. İlk basamak, ilişkidir. Bu, geleneksel AI’ın veri中的 desenleri veya korelasyonları gözlemlediği yerdir. “Hangi semptomlar bir hastalığa bağlı?” gibi soruları cevaplar. İkinci basamak, müdahaledir. “Şey X’i yaptığımda ne olur?” diye sorar. Bu, bir değişkeni aktif olarak değiştirdiğinizde diğerlerini nasıl etkilediğini anlamak gerekir. Müşterilerin e-posta aldıklarında daha fazla satın aldıklarını gözlemlemek ile e-postanın satın almaları tetiklediği arasındaki fark budur. En yüksek basamak, karşı olasılık akıl yürütmesidir. “Farklı bir şey yapsaydım ne olurdu?” diye sorar. Bu, alternatif senaryoları hayal etmek ve hesap verebilirlik ve öğrenme için gerekli olan bir şeydir, Örneğin, farklı bir tedaviyle bir hastayı kurtarabileceklerini belirlemek. Nedensel AI, bu üç basamakta da çalışır. Verideki desenlerin değil, bu desenleri üreten temel nedensel mekanizmaları temsil eden modeller oluşturur.

Nedensel AI Nasıl Akıl Yürüten Modeller Oluşturur

Nedensel AI’ın pratik uygulaması, üç ana bileşenden oluşur:

Yapısal Neden-sonuç Modelleri (SCM’ler): Bu modeller, neden-sonuç mekanizmalarını tanımlamak için denklemlere güvenir. Bu yaklaşım, AI’ın yüzeydeki desenleri öğrenmek yerine veri oluşturma sürecini modellemesine olanak tanır.

Yönlendirilmiş Döngüsüz Grafikler (DAG’ler): Bu görsel temsiller, düğümler ve oklar kullanarak neden-sonuç varsayımlarını açıkça tanımlar. Uzmanların karışıklık değişkenlerini tanımlamasına ve modelin mantığını doğrulamasına yardımcı olurlar.

“Do”-Hesaplaması: Bu matematiksel operatör, Pearl tarafından geliştirilmiştir ve gözlem P (Y|X) ile müdahale P (Y| do(X)) arasında resmi bir ayrım sağlar. “Ne olur” sorularını veri kullanarak cevaplamak için gerekli makineyi sağlar.

Bu çerçeve, AI sistemlerinin müdahaleleri önce simüle etmesine ve hipotetikler hakkında akıl yürütmelerine olanak tanır. AI’ı, dünyayı gözlemleyen bir araçtan, dünyayı anlamamıza yardımcı olan bir araca dönüştürür.

Araçlar Olgunlaşıyor

Erişilebilir yazılım araçlarının geliştirilmesi de Nedensel AI’ın hızlanmasında önemli bir rol oynamaktadır. Microsoft’un DoWhy çerçevesi, neden-sonuç ilişkilerini modelleme, neden-sonuç etkisini tanımlama, etkiyi tahmin etme ve varsayımları test etme araçları dahil olmak üzere dört adımlı bir iş akışı uygulayan açık kaynaklı bir Python kütüphanesidir. Bu yapılandırılmış yaklaşım, farklı araştırmacıların farklı neden-sonuç varsayımları yapabileceği bir zorluğu ele alır. DoWhy, neden-sonuç grafikleri aracılığıyla bu varsayımları tanımlamaya yardımcı olur ve sonuçların duyarlılığını test etmek için araçlar sağlar.

Nedensel AI’ın olgunlaşması, pazar büyümesindeki hızlanmasından da görülebilir. Analistler, öngörüyor ki, küresel nedensel AI pazarı 2025’te yaklaşık 63 milyon dolarдан 2035 yılına kadar 1,62 milyar dolara ulaşacak ve bileşik yıllık büyüme oranı %38,35’i aşacak. Bu büyüme, neden-sonuç ilişkilerini anlamasının rekabet avantajı sağladığına dair farkındalığa dayanmaktadır. Açıklanabilir AI (XAI) talebinin artması da önemli bir itici güçtür. EU’nun AI Yasası gibi düzenlemeler, kararlar için şeffaf açıklamalar gerektirir. Nedensel modeller, neden-sonuç yolunu net bir şekilde ortaya koyarak, sadece hangi kararın alındığını değil, neden alındığını da açıklar.

Ana Avantajlar: Dayanıklılık ve Güven

Nedensel AI’ın birincil avantajı, değişen koşullara karşı dayanıklılığıdır. Eğitimden dağıtıma geçildiğinde, geleneksel modeller genellikle korelasyonlarının bozulması nedeniyle felaket bir şekilde başarısız olurlar. Bir ürün verimini yüksek toprak nemiyle ilişkilendiren bir korelasyon tabanlı model, ancak bu korelasyon eğitim verisinde sulama uygulamalarıyla karıştırılmışsa, yeni bir bölgede dağıtıldığında başarısız olur.

Nedensel modeller farklıdır. Altta yatan mekanizmaları öğrenerek, çevreler arasında kalıcı ilişkileri tanımlarlar. Nemin neden önemli olduğunu, sadece ürün verimiyle ilişkili olduğunu anlamazlar. Araştırmalar, dağılım değişikliklerine sahip veri kümelerinde, nedensel modellerin performansı korurken, geleneksel modellerin doğruluğunda %20’den fazla düşüş yaşayabileceğini gösteriyor.

Ayrıca, Nedensel AI, kara kutu sorununu ele alır. Şeffaf olmayan sinir ağlarına karşılık, neden-sonuç grafikleri ve yolları net açıklamalar sağlar: “X’i değiştirmek, Y’yi Z yoluyla etkiler.” Bu yetenek, yüksek riskli alanlarda AI’ı dağıtmak için kritiktir ve şimdi EU’nun AI Yasası gibi düzenlemelerde kodlanmıştır. Nedensel AI, ayrıca ayrımcılık yapan nedenlerle sahte korelasyonları (örneğin, ırk ve sonuçlar) ayırt ederek önyargıları azaltmaya yardımcı olur.

Gerçek Dünyada Etki

Nedensel akıl yürütmeye geçiş, zaten çeşitli endüstrilerde değer yaratmaktadır. Sağlık hizmetlerinde, Kaiser Permanente, hastaların yeniden hastaneye yatışlarının nedenlerini belirlemek için nedensel AI kullanır, bu da hastalara kişiselleştirilmiş ilaç hatırlatmaları gibi hedeflenen müdahaleleri mümkün kılar ve uyumu önemli ölçüde iyileştirir. İlaç endüstrisinde, şirketler, nedensel AI’ı, hangi moleküler hedeflerin gerçekten hastalık ilerlemesine neden olduğunu, sadece hangi hedeflerle ilişkili olduğunu belirlemek için kullanır. Bu, klinik denemelerden önce müdahaleleri simüle ederek ilaç keşfini hızlandırır. İmalatta, nedensel modeller, üretim hatlarında kök neden analizi gerçekleştirir. Kalite düştüğünde, sistem, nedenin makine ayarlarında, malzeme hatalarında veya yukarı akış süreçlerinde olup olmadığını belirler ve mühendislere eyleme geçirilebilir içgörüler sağlar. Finansmanda, bankalar, kredi temerrütlerinin gerçek sürücülerini anlamak için nedensel çıkarımı kullanır, sadece korelasyonları değil. Bu, finansal sıkıntının gerçek nedenlerine hitap eden ödeme planları gibi müdahaleleri tasarlamalarına olanak tanır.

Otonom Araçlar, nedensel AI’ın en talepkar uygulamalarından biridir. Korelasyon tabanlı sistemler bir yayanı tanıyabilir, ancak nedensel modeller, neden yayanın sokakta geçiş yapabileceğini, bir topun peşinden koşabileceğini veya bir engelden kaçınabileceğini çıkarabilir. Bu, dinamik ortamlarda güvenli navigasyon için gerekli olan niyet ve neden-sonuç anlayışını sağlar.

Sonuç

Korelasyonlara dayanan AI çağı sona eriyor. Neden-sonuç ilişkilerini anlayan modeller oluşturarak, Nedensel AI, güvenilir “ne olur” analizleri, değişen koşullara karşı dayanıklılık ve modern iş ve düzenleme tarafından talep edilen açıklanabilirlik için gerekli akıl yürütme gücünü sağlar.