Yaklaşan “Exolution” of AI

Bugün, teknolojik bir fay hattının kenarında, LLM’lerden ajansa ve sonunda ajantik AI ve AGI’ye yolculuğu gözlemliyoruz ve bu sadece daha büyük modeller veya daha hızlı yanıtlardan ibaret değil. Aynı zamanda makinelerin pasif asistanlardan aktif işbirlikçilere ve belki de bir gün bağımsız düşünürlere dönüşmesi hakkında.

Bu yolu izleyelim ve bunun geleceğin inteligansının şekillenmesinde, uzmanlıkta ve insanların rolünde ne anlama geldiğini keşfedelim.

LLM’ler, ajant-tabanlı sistemler ve ajantik AI arasındaki fark

Farkı daha iyi anlamak için bir örnek verelim. Eğer bir LLM’ye şunu sorarsam: “Chicago’dan Austin’e gitmek istiyorum, günde dört saatten fazla sürüş yapmayın ve manzaralı yerlerde durun,” bir LLM statik bir metin yanıtı verecektir. Bu, talebe cevap verecektir, ancak kapsamlı bir analiz yapmayacaktır.

Bir ajant, talebi ilk olarak seyahat ile ilgili olarak sınıflandıracaktır. Ardından, hangi verilere ihtiyaç duyulduğunu belirleyecektir: haritalama hizmetleri, hava durumu bilgileri, yakıt maliyetleri, oteller, restoranlar vb. Daha sonra, ajant talebi alt görevlere bölecek ve bunları uzmanlaşmış modüllere veya ilgili kaynaklara eğitimli LLM’lere yönlendirecektir. Bu, birden fazla modeli ve aracı birleşik bir mantık altında koordine etme ve orkestrasyondur.

Bugün, ChatGPT veya Anthropic’ten Claude gibi büyük sistemlerin çoğu esasen already ajantlar. Kullanıcıya tek bir model ile etkileşimde bulunuyormuş gibi görünebilir, ancak arka planda birçok model ve sistem içeren karmaşık bir mimari vardır. Karmaşık sorguları already işleyebilirler, ancak yetenekleri genellikle sadece bilgi sağlamaya kadar sınırlıdır; henüz eylemde bulunmazlar.

Tamamen otonom bir ajant, bilgi toplamak ve bağımsız olarak bir otel rezervasyonu yapabilmek, bir bilet satın alabilmek veya bir ödeme başlatabilmek için erişim izni olan API’lere veya kullanıcı verilerine sahip bir sistemdir. Bu tür ajantlar şu anda erken gelişim aşamasındadır. Şu anda, yarı-ajantlar gibi davranırlar; bilgi işleyebilirler, ancak henüz otonom eylemler gerçekleştiremezler.

Araştırma topluluğunda ajantik AI hakkında ilginç bir tartışma alanı vardır. Normal bir ajantın davranışını geliştiriciler tarafından yazılırken, ajantik AI, bağımsız olarak hangi görevleri gerçekleştireceğini, hangi verilere ihtiyacı olduğunu ve hatta kendi eğitimini nasıl devam ettireceğini belirleyen bir sistemdir. Bu, talimatları uygulamaktan öte, otonom kararlar almaktır. Ancak, ajantik AI şu anda teorik düzeydedir ve henüz pratikte böyle sistemler mevcut değildir.

AGI – yeni ufuk. Ancak ulaşılabilir mi?

Meta, üç ay önce Scale AI’ye yatırım yaptı. Amac, insan düzeyinde veya hatta onu aşan herhangi bir görevi gerçekleştirebilen AGI, Yapay Genel Zeka inşa etme yolunda işbirliği yapmak için güçlerini birleştirmekti. Bugün ki AI bir teknolojik devrim ise, AGI gerçek bir mega devrim olacaktır; bazen buna “exolution” diyorum, yani AI’nın gölgelerden “exodus”u. Bunu ilk gerçekleştiren, küresel bir stratejik avantaj kazanacaktır.

AGI’ye ne kadar yakın olduğumuz, bunun tanımına bağlı olarak değişir. Ilya Sutskever’in görüşüne katılıyorum: AGI, herhangi bir insan tarafından gerçekleştirilebilen herhangi bir entelektüel görevi gerçekleştirebilen bir sistemdir. Sadece sorulara cevap vermek değil, aynı zamanda akıl yürütme, karar verme, genelleme ve farklı alanlar arasında yorum yapma yeteneği. Gerçek AGI evrenseldir ve dar görev sınırları ile sınırlı değildir.

Şu anda mevcut olan hiçbir model bu seviyeye ulaşmadı. Bu yönde ilerliyoruz, ancak teorik anlamda gerçek AGI henüz mevcut değil. Ve belki de bu en iyisidir. Yaklaşık bir aşamadayız ve muhtemelen bir süre daha böyle kalacağız.

AGI’nin temeli muhtemelen ajant-tabanlı bir sistem olacaktır. Tek bir LLM’ye dayanmak zorunda değildir, çünkü tıpkı bir insanın tüm bilgi ve beceri alanlarını master olmak için yeterli olmaması gibi, bir LLM de AGI görevlerinin tüm spektrumunu tek başına gerçekleştiremez. “Topluluk zekası”na ihtiyacımız var: birden fazla modeli ve bileşeni koordine edebilen bir mimari.

AGI, muhtemelen insan tasarımı bir ajant olarak değil, kısmen AI’ın kendisi tarafından geliştirilen ve evrimleşen bir meta-ajant olarak ortaya çıkacaktır. Bu önemli, çünkü tamamen insan tarafından tasarlanan sistemler, içkin sınırlamalar taşıyabilir. Sistem tasarım sürecine AI’ı dahil etmek, bu sınırlamaları aşmasına ve sistemi daha uyarlanabilir hale getirmesine yardımcı olabilir.

AGI muhtemelen tek bir özel atılımdan değil, büyük LLM’ler, daha akıllı ajantlar veya tamamen yeni mimarilerin sentezinden ortaya çıkacaktır. Muhtemelen, şu anda kullandığımız kategorilerin ötesinde, gerçekten yeni bir şey.

“İnsanlığın Son Sınavı” ve diğer AGI benchmarkları

“İnsanlığın Son Sınavı” (HLE), LLM’ler, Ajantlar ve AGI bağlamında tartışılan daha iddialı benchmarklardan biridir. Temel olarak, yaklaşık 2.500 sorudan oluşan bir testtir ve akademik disiplinlerin geniş bir yelpazesini kapsar: matematik, fizik, biyoloji, kimya, mühendislik, bilgisayar bilimi ve hatta satranç. Fikir, bir AI sisteminin gerçekten insan anlayışını yansıtan bir seviyede sorunları çözebileceğini değerlendirmektir.

Mevcut dil modelleri HLE’de çok kötü performans gösterir, sıklıkla %5’ten az doğruluk oranı elde eder. Bu, MMLU veya GPQA gibi diğer benchmark’lara kıyasla çok daha düşük bir performansdır; modeller bu testlerde çok daha yüksek puanlar alır. HLE’de modellerin karşılaştığı zorluk, gerçekten genel zekaya ne kadar uzak olduklarını vurgular.

Yüksek performansın, bilinen veya dar veri kümeleriyle yapılan benchmark’larda gerçek genel zekayı göstermediğini unutmamak önemlidir. Bir model, test için “eğitimli” olabilir ve bu da yeteneklerini şişirebilir. Dolayısıyla, HLE’de mükemmel bir puan, AGI’ye ulaştığımızı anlamına gelmez; sadece belirli bir testi geçtik anlamına gelir.

AGI’yi neler hareket ettirir

AGI’nin temel taşlarının veri, hesaplama ve yetenek olduğunu tamamen kabul ediyorum. Hesaplama durumu açık. Ana oyuncular gibi Meta, kendi çip geliştirme sürecine milyarlarca dolar yatırım yaparak kendi çiplerini üretmeye çalıştı. Ancak şirketler hala diğer çiplere ve Nvidia gibi diğer oyuncuların hesaplamalarına bağımlılar; bunlar sadece gerekli donanımı sağlarlar, aynı zamanda üretimi ölçeklendirme konusundaki önemini de anlarlar.

Daha fazla soru, veri ve yetenek hakkında. İnternet tükenmiştir – şu anda eğitim için kullanılan insan tarafından oluşturulan metinlerin hiçbir parçası yoktur. İnsanlığın ürettiği toplam bilgi hacmi, şaşırtıcı bir şekilde küçük çıkmaktadır. Bu nedenle şirketler, yüksek kaliteli insan verisi üretebilenlerle aktif olarak ortaklık kurmaya başlamıştır.

Tam Otomasyon mu, İnsan-Döngü mü?

Diğer bir nokta, manuel veri anotasyonuna olan talebin azalmasıdır. Birkaç yıl önce, endüstri tam hızıyla büyüyordu. Binlerce anotatör, AI boru hatlarının açlığını gidermek için görevlendirildi. Bugün, bu momentumun çoğu, otomasyona doğru kaymıştır. Modeller olgunlaştı ve etrafındaki araçlar da öyle.

Yüz tanıma alın. Bir zamanlar, görüntüleme anotasyonunun ana sürücülerinden biriydi. Ancak bu kategori artık büyük ölçüde çözülmüştür. YOLO, SAM ve Samurai gibi modeller, rutin işlerirapid olarak emer ve genellikle şaşılacak bir doğrulukla yapar. Ayrıca, özel platformumuz Keylabs‘de birçok ML destekli aracı uyguladık. Gerçekten rutin iş akışını keser.

Bununla birlikte, bu modeller, genellemeleri ile sınırlıdır ve yalnızca standart ve üniform operasyonları otomatikleştirmeye uygundur. Karmaşık veya benzersiz durumlar hala insan dikkatini gerektirir.

Artık, bir anotatörün sadece bir nesne veya duyguyu tanıyabilen, ayrıntılara dikkat eden bir kişi olmaktan çıkıp, profesyonellere ihtiyaç duyulan bir gerçeklikte yaşıyoruz: tıbbi görüntüleri anotlamak için doktorlar, kodlamak için programcılar, mavi çizimler oluşturmak için mimarlar, müşteri içgörülerini elde etmek için pazarlamacılar ve savunma senaryoları için askeri uzmanlar.

Gerçek dünya örneklerini zaten görüyoruz, Örneğin, savaş pilotlarının AI için veri anotlaması yapıp saatte 1.000 dolar kazandıkları gibi. Bu tür uzmanlar nadirdir ve bilgilerinin AI için eğitimi kritik öneme sahiptir.

Dünya değişiyor: giderek daha fazla insan, yapay zekanın operatörleri ve “eğitimcileri” haline geliyor. Diğer gün, bir CEO için tasarlanan bir AI uygulaması için bir veri kümesini kontrol etmek için bana bir LinkedIn mesajı aldım. Gelecekte, herhangi birimiz, sadece düğmelere tıklayan biri değil, geleceğin inteligansını şekillendiren bir uzman olarak çalışmak için bir teklif alabiliriz.

Şimdi bile, veri etiketleme ve AI eğitimi dünyasında yaşıyoruz. Bunu tanıyan ve adapte olanlar önemli bir avantaj kazanacaktır.